ครึ่งหนึ่งของธุรกิจทั่วโลกต้องเผชิญกับการโจมตีอย่างลึกล้ำ Regula รายงาน

อุบัติการณ์ของการรายงานการฉ้อโกงเสียงและวิดีโอที่รายงานได้เกิดขึ้น 49 % ของธุรกิจในช่วง 12 เดือนที่ผ่านมา ตามที่“ แนวโน้ม Deepfake 2024”สำรวจรับหน้าที่โดยการควบคุมวิดีโอ Deepfakes เพิ่มขึ้น 20 % ในขณะที่ Audio Deepfakes เพิ่มขึ้น 12 % เมื่อเทียบกับรายงานก่อนหน้านี้ ความคิดเห็นเกี่ยวกับ Audio Deepfakes จากผู้บริหาร Pindrop เพิ่มความกังวลเท่านั้น

การสำรวจชี้ให้เห็นว่าเสียง Deepfakes นั้นค่อนข้างพบได้บ่อยในภาคส่วนต่าง ๆ เช่นบริการทางการเงิน (51 เปอร์เซ็นต์) และ crypto (55 เปอร์เซ็นต์) ในขณะที่วิดีโอ Deepfakes มีรายงานมากขึ้นในการบังคับใช้กฎหมาย (56 เปอร์เซ็นต์) และ Fintech (57 เปอร์เซ็นต์)

รายงานยังเน้นความไม่เท่าเทียมในระดับภูมิภาคด้วยสหรัฐอาหรับเอมิเรตส์และสิงคโปร์ประสบกับความอ่อนแอที่สูงขึ้น ในภูมิภาคเหล่านี้ 56 เปอร์เซ็นต์ของธุรกิจรายงานการฉ้อโกง Deepfake ที่สร้างขึ้นโดย AI ในทางตรงกันข้าม Deepfakes มีผลกระทบต่ำที่สุดต่อธุรกิจในเม็กซิโก

ในขณะที่เสียงและวิดีโอ Deepfakes เป็นเรื่องที่น่ากังวลการปลอมแปลงเอกสารและการจัดการแบบดั้งเดิมนั้นแพร่หลายกว่าการหลอกลวงที่สร้างขึ้นโดย AI ประมาณ 58 เปอร์เซ็นต์ของธุรกิจได้พบกับกิจกรรมที่เป็นการฉ้อโกงที่เกี่ยวข้องกับเอกสารดัดแปลงทำให้เป็นรูปแบบที่พบบ่อยที่สุดของการฉ้อโกงตัวตนรายงานกล่าว

“ การเพิ่มขึ้นของเหตุการณ์ Deepfake ในช่วงระยะเวลาสองปีของการสำรวจของเราทำให้ธุรกิจไม่มีทางเลือกนอกจากต้องปรับตัวและทบทวนแนวทางการตรวจสอบในปัจจุบันของพวกเขา” Ihar Kliashchou หัวหน้าเจ้าหน้าที่ฝ่ายเทคโนโลยีของ Regula กล่าว “ Deepfakes มีความซับซ้อนมากขึ้นเรื่อย ๆ และวิธีการแบบดั้งเดิมนั้นไม่เพียงพออีกต่อไปสิ่งที่เราคิดว่าอาจทำงานได้ดีคือวิธีการที่มีความเป็นศูนย์กลางซึ่งเป็นขั้นตอนที่แข็งแกร่งที่เกี่ยวข้องกับการตรวจสอบลักษณะทางกายภาพของบุคคลและเอกสารของพวกเขาในคำอื่น ๆ

จำนวนเหตุการณ์ที่เกิดขึ้น Kliashchou หมายถึงการเพิ่มขึ้นของคุณภาพของ deepfakes ที่มาถึงเหตุการณ์สำคัญอย่างน้อยก็ในด้านเสียง

เครื่องเสียงสังเคราะห์ได้ข้ามหุบเขาอันแปลกประหลาด Pindrop CPO กล่าว

หัวหน้าเจ้าหน้าที่ผลิตภัณฑ์ของ Pindropความสุขสำหรับหนองน้ำกล่าวในกการสัมมนาทางเว็บเสียงสังเคราะห์นั้นได้ข้าม "หุบเขาอันน่าประหลาดใจ" ไปจนถึงจุดที่มันไม่สามารถสังเกตเห็นได้จากเสียงที่แท้จริงและน่าเชื่อถือ

ในรายงานข่าวเมื่อเร็ว ๆ นี้วุฒิสมาชิกเบ็นคาร์ดินประธานคณะกรรมการความสัมพันธ์ระหว่างประเทศของสหรัฐอเมริกาตกเป็นเหยื่อของการโจมตีอย่างลึกล้ำซึ่งพวกเขาถูกแอบอ้างเป็นเจ้าหน้าที่ระดับสูงของยูเครน สิ่งนี้เน้นถึงความท้าทายในการพิจารณาระหว่างเนื้อหาจริงและเนื้อหาที่ถูกจัดการในภูมิทัศน์ดิจิตอล

การพัฒนาระบบเสียง/วิดีโอ Deepfakes นั้นสามารถเข้าถึงได้มากขึ้นด้วยความพร้อมใช้งานของโมเดลโอเพนซอร์สหลายพันรุ่น ตามSarosh Shahbuddinผู้อำนวยการอาวุโสสำหรับผลิตภัณฑ์ที่PindropDeepfakes ที่น่าเชื่อถือที่สุดซึ่งตรวจจับได้ยากสามารถสร้างได้โดยใช้การพูด 10 นาที

การตรวจจับการโจมตีของ Deepfake นั้นซับซ้อนยิ่งขึ้นโดยการแนะนำสัญญาณรบกวนพื้นหลังลงในสื่อดร. Oren Etzioni ผู้ก่อตั้งของTruemedia.orgเครื่องมือฟรีสำหรับการตรวจจับสื่อสังคมออนไลน์

ในขณะที่วิธีการโจมตียังคงพัฒนาอย่างต่อเนื่องโมเดลการตรวจจับจะต้องได้รับการปรับปรุงและปรับปรุงอย่างสม่ำเสมอด้วยชุดข้อมูลขนาดใหญ่และอัลกอริทึมการเรียนรู้ของเครื่องขั้นสูงเขายังคงดำเนินต่อไป

เมื่อต้นปีนี้ Pindropประกาศตัวอย่างของการตรวจสอบพัลส์ตรวจสอบ biometric deepfake เครื่องมือตรวจจับซึ่งอ้างว่ามีความแม่นยำ 99 เปอร์เซ็นต์ในการตรวจจับคำพูดที่สร้างขึ้นโดย Ai ในไฟล์เสียงดิจิตอล

ตาม Pindropการตรวจสอบชีพจรวิเคราะห์สายโทรศัพท์ 21 ล้านสายและพบว่า 0.3 เปอร์เซ็นต์นั้นไม่ได้มีชีวิต แนวโน้มที่รายงานบ่งชี้ว่าการลาดตระเวนการครอบครองบัญชีและธุรกรรมการฉ้อโกงเป็นการโจมตี Deepfake สามประเภทที่ตรวจพบพัลส์ตรวจพบในการโทร