นักศึกษาปริญญาเอกใช้ Deepfake เพื่อผ่านการตรวจสอบเสียงที่เป็นที่นิยมและระบบตรวจจับการปลอมแปลง

2023-07-28

มหาวิทยาลัยวอเตอร์ลู (UW) นักศึกษาปริญญาเอกด้านความปลอดภัยในโลกไซเบอร์ Andre Kassis ตีพิมพ์ผลการวิจัยของเขาหลังจากได้รับอนุญาตให้เข้าถึงบัญชีที่ได้รับการปกป้องด้วยไบโอเมตริก

แฮ็กเกอร์สามารถสร้างเสียงที่ลึกล้ำด้วยเสียงที่บันทึกไว้ห้านาทีซึ่งสามารถนำมาจากโพสต์สาธารณะบนโซเชียลมีเดีย ซอฟต์แวร์โอเพนซอร์ส AI ของ GitHub สามารถสร้างเสียง Deepfake ที่สามารถผ่านการตรวจสอบด้วยเสียงได้

เขาใช้ Deepfake เพื่อเปิดเผยจุดอ่อนในระบบตรวจสอบเสียงของ Amazon Connectการเปิดตัวของคุณเปิดเผย การโจมตีสี่วินาทีใน Connect มีอัตราความสำเร็จ 10 เปอร์เซ็นต์และการโจมตีที่ใกล้เคียงกับ 30 วินาทีประสบความสำเร็จ 40 เปอร์เซ็นต์ของเวลา

ในการตอบสนอง บริษัท ได้เพิ่มซอฟต์แวร์ป้องกันการสปอตต์ไบโอเมตริกซ์ที่สามารถค้นหาเครื่องหมายดิจิตอลในการบันทึกเสียงโดยเปิดเผยว่ามันถูกสร้างขึ้นโดยเครื่องจักรหรือมนุษย์ สิ่งนี้ใช้งานได้จนกระทั่ง Kassis ใช้ซอฟต์แวร์ฟรีเพื่อลบเครื่องหมายดิจิตอลออกจาก Deepfakes ของเขา

วิธีการของเขาสามารถข้ามระบบการตรวจสอบความถูกต้องทางชีวภาพเสียงที่ซับซ้อนน้อยลงด้วยอัตราความสำเร็จ 99 เปอร์เซ็นต์หลังจากพยายามหกครั้งประกาศ-

“ การโจมตีของเรา” Kassis กล่าวในบทความวารสารของเขา“ เป้าหมายจุดทั่วไปของความล้มเหลวที่การปลอมแปลงการตอบโต้ทั้งหมดแบ่งปันทำให้เป็นแบบเรียลไทม์โมเดลที่ไม่เชื่อเรื่องพระเจ้าและแบล็กบ็อกซ์อย่างสมบูรณ์โดยไม่จำเป็นต้องโต้ตอบกับเป้าหมายเพื่อสร้างตัวอย่างการโจมตี” การตอบโต้ใช้ตัวชี้นำที่สามารถระบุตัวตนได้อย่างง่ายดายและน่าจดจำเพื่อแยกความแตกต่างระหว่างเสียงที่ถูกปลอมแปลงและเสียงจริง

ศาสตราจารย์ Urs Hengartner ศาสตราจารย์ด้านวิทยาศาสตร์คอมพิวเตอร์ซึ่งเป็นหัวหน้างานของ Kassis และผู้เขียนร่วมรายงานกล่าวว่า“ โดยแสดงให้เห็นถึงความไม่มั่นคงของการตรวจสอบเสียงเราหวังว่า บริษัท ต่างๆที่พึ่งพาการตรวจสอบด้วยเสียงเนื่องจากปัจจัยการตรวจสอบสิทธิ์เพียงอย่างเดียวของพวกเขาจะพิจารณาปรับใช้มาตรการตรวจสอบความถูกต้องเพิ่มเติมหรือแข็งแกร่งขึ้น”