จากการศึกษาใหม่เกี่ยวกับการปลอมแปลงเสียงไปจนถึงการพัฒนาวิธีการใหม่ในการบอกใบหน้าปลอมจากการสะท้อนในดวงตา นักวิทยาศาสตร์กำลังสร้างเครื่องมือเพื่อต่อสู้กับการฉ้อโกงและการหลอกลวง อย่างไรก็ตาม การวิจัยในอุตสาหกรรมแสดงให้เห็นว่าธุรกิจจำนวนมากไม่มั่นใจในความสามารถในการตรวจจับ Deepfake ของตน
ต้นทุนของการฉ้อโกงแบบ Deepfake
ในขณะที่ธุรกิจเกือบ 60 เปอร์เซ็นต์พิจารณาว่าวิดีโอและเสียง Deepfake เป็นภัยคุกคามร้ายแรง แต่ 44 เปอร์เซ็นต์กล่าวว่าพวกเขาไม่มั่นใจในความสามารถในการตรวจจับสิ่งเหล่านี้ ซึ่งเป็นการสำรวจใหม่จากบริษัทยืนยันตัวตนได้แสดงให้เห็น
ของบริษัทเทรนด์ Deepfake ปี 2024การศึกษายังแสดงให้เห็นว่า 92 เปอร์เซ็นต์ของธุรกิจจัดการกับการฉ้อโกงข้อมูลประจำตัว ในขณะที่ครึ่งหนึ่งเคยประสบกับการฉ้อโกงทางเสียงและวิดีโออย่างล้ำลึก นั่นเป็นการก้าวกระโดดครั้งใหญ่จากปี 2022 ที่มีเพียง 37 เปอร์เซ็นต์เท่านั้นที่ประสบปัญหาการฉ้อโกงข้อมูลประจำตัวและการฉ้อโกงแบบ Deepfake 29 เปอร์เซ็นต์
Regula ดำเนินการสำรวจโดยการสัมภาษณ์ผู้มีอำนาจตัดสินใจ 575 รายจากธุรกิจในเยอรมนี เม็กซิโก สหรัฐอาหรับเอมิเรตส์ สิงคโปร์ และสหรัฐอเมริกา การวิจัยครอบคลุมอุตสาหกรรมการบิน สกุลเงินดิจิทัล บริการทางการเงิน (ทั้งแบบดั้งเดิมและฟินเทค) การดูแลสุขภาพ การบังคับใช้กฎหมาย เทคโนโลยี และโทรคมนาคม
ในอุตสาหกรรมต่างๆ ธุรกิจต่างๆ สูญเสียเงินโดยเฉลี่ยเกือบ 450,000 เหรียญสหรัฐฯ ไปกับ Deepfake โดย 28 เปอร์เซ็นต์รายงานว่าการขาดทุนดังกล่าวเกิน 500,000 เหรียญสหรัฐฯ Regula กล่าว ความสูญเสียในภาคบริการทางการเงินนั้นสูงกว่าโดยเฉลี่ยโดยมีมูลค่ามากกว่า 600,000 ดอลลาร์โดยเฉลี่ยเล็กน้อย ในขณะที่ธุรกิจฟินเทคสูญเสียเงินโดยเฉลี่ยมากกว่า 630,000 ดอลลาร์
บริษัทต่างๆ มักกังวลเกี่ยวกับ Deepfakes ที่เลี่ยงผ่านระบบรักษาความปลอดภัยด้วยไบโอเมตริก โดยร้อยละ 42 ระบุว่าการขโมยข้อมูลส่วนตัวเป็นความเสี่ยงที่ยิ่งใหญ่ที่สุด อย่างไรก็ตาม บริษัทยืนยันตัวตนเตือนว่าการจัดการกับ Deepfakes ในบ้านไม่ใช่ทางเลือกที่ดีที่สุดเสมอไป
บริษัทที่สร้างระบบการยืนยันตัวตนของตนเองขาดทุนโดยเฉลี่ยสูงกว่า ($515,000) เมื่อเทียบกับบริษัทที่ใช้โซลูชันสำเร็จรูป ($444,000)
ความช่วยเหลือกำลังมา
ในขณะที่ Deepfake กำลังแพร่กระจายเร็วกว่าที่คาดไว้เครื่องมือตรวจจับ Deepfake และการวิจัยเกี่ยวกับรูปภาพที่สร้างโดย AI ก็กำลังเฟื่องฟูเช่นกัน
ชุดข้อมูลเริ่มดีขึ้น
สิ่งหนึ่งที่สำคัญสำหรับนิติวิทยาศาสตร์ดิจิทัลและการวิจัยเชิงลึกก็คือชุดข้อมูล
กลุ่มนักวิจัยจากมหาวิทยาลัยปักกิ่งอันทรงเกียรติของจีน และแผนกวิจัย AI ยักษ์ใหญ่ด้านเทคโนโลยีของ Tencent อย่าง Youtu Lab ได้เผยแพร่รายงานกระดาษเสนอเกณฑ์มาตรฐานใหม่สำหรับการตรวจจับ Deepfake
ชุดข้อมูลการตรวจจับ Deepfake ของ DF40 ประกอบด้วยเทคนิค Deepfake ที่แตกต่างกัน 40 รายการ ซึ่งมีจุดมุ่งหมายเพื่อช่วยการตรวจจับ SOTA Deepfake และ AIGC ในปัจจุบัน ชุดข้อมูลประกอบด้วยข้อมูล Deepfake ที่เหมือนจริงที่สร้างขึ้นโดยซอฟต์แวร์เจนเนอเรชันยอดนิยมและวิธีการต่างๆ เช่น HeyGen, MidJourney และ DeepFaceLab และนำเสนอระดับข้อมูล Deepfake ระดับล้านสำหรับทั้งรูปภาพและวิดีโอ ในที่สุด DF40 ก็จัดให้มีการจัดตำแหน่งระหว่างวิธีการปลอมและโดเมนข้อมูล นักวิจัยอธิบายบนหน้า GitHub ของพวกเขา
ข้อจำกัดประการหนึ่งคือการขาดการวิเคราะห์ที่ครอบคลุมสำหรับเครื่องตรวจจับระดับวิดีโอซึ่งวางแผนไว้สำหรับงานในอนาคต
ฟังงานวิจัยครับ
นักวิจัยจากมหาวิทยาลัยฟลอริดาได้สรุปสิ่งที่พวกเขาอธิบายว่าเป็นการศึกษาที่ใหญ่ที่สุดเกี่ยวกับเสียงที่ล้ำลึก
การศึกษานี้คัดเลือกคน 1,200 คนที่นำเสนอตัวอย่างจากชุดข้อมูล Deepfake ที่ได้รับการอ้างถึงอย่างกว้างขวางที่สุด 3 ชุด ผลการวิจัยพบว่ามนุษย์มีแนวโน้มที่จะเดาได้อย่างถูกต้องว่าคลิปเสียงเป็นของจริงหรือของปลอมเมื่อเทียบกับโมเดลการเรียนรู้ของเครื่อง มนุษย์ทำคะแนนได้อย่างแม่นยำ 73 เปอร์เซ็นต์
“โมเดลการเรียนรู้ของเครื่องจักรต้องทนทุกข์ทรมานจากอัตราผลบวกลวงที่สูงขึ้นอย่างมาก และพบกับผลลบลวงที่มนุษย์จำแนกประเภทได้อย่างถูกต้องเมื่อมีการรายงานปัญหาด้านคุณภาพหรือคุณลักษณะของหุ่นยนต์” การศึกษากล่าว
การศึกษายังเจาะลึกถึงวิธีที่มนุษย์ตัดสินใจจำแนกประเภท โดยพบว่าพวกเขามักถูกหลอกโดยรายละเอียดที่สร้างโดยเครื่องจักร เช่น สำเนียงอังกฤษและเสียงพื้นหลัง
รายละเอียดที่เล็กที่สุด
นักวิจัยคนอื่นๆ กำลังเจาะลึกรายละเอียดที่เล็กที่สุดเพื่อตรวจจับของปลอม
Sejun Song ศาสตราจารย์แห่งมหาวิทยาลัยออกัสตา รัฐจอร์เจีย ได้พัฒนาวิธีการพิเศษในการตรวจสอบว่าบุคคลนั้นเป็นของจริงหรือของปลอมโดยการวิเคราะห์ภาพสะท้อนในดวงตาของแต่ละบุคคล วิธีแก้ปัญหาที่มีชื่อว่าEyeDentityได้รับการออกแบบเพื่อใช้ในระหว่างการตรวจสอบการจดจำใบหน้า และวิเคราะห์รูปร่างของการสะท้อนและรายละเอียด เช่น สภาพแวดล้อม สี และแสง ด้วยความช่วยเหลือของ AI
งานวิจัยนี้ทำให้ซ่งได้รับรางวัลที่สามจากการแข่งขันนวัตกรรมที่จัดโดยเครือข่ายนวัตกรรมความมั่นคงแห่งชาติ ซึ่งเป็นโครงการของกระทรวงกลาโหมสหรัฐฯ (DoD)
ตรวจจับได้ถูกกว่าสร้าง
แม้จะมีสาขาการวิจัยเพิ่มมากขึ้นจำนวนเครื่องมือสำหรับการสร้างเนื้อหาที่สร้างโดย AI ก็เพิ่มขึ้นเช่นกัน
เมื่อปลายปีที่แล้วมีเครื่องมือ Deepfake 120 ชิ้น แต่ภายในเดือนมีนาคมปีนี้มีเครื่องมือ 358 ชิ้น การโจมตีครั้งใหม่ยังเพิ่มขึ้นอย่างต่อเนื่อง ตามข้อมูลของบริษัทไบโอเมตริกซ์ด้วยเสียง- บริษัทได้พาดหัวข่าวในปีนี้หลังจากระบุกลไก AI ดั้งเดิมที่ใช้ในการสร้างเสียง
ข่าวดีก็คือว่าการตรวจจับ Deepfake มีราคาถูกกว่าการสร้างมันถึงสี่คำสั่ง Vijay Balasubramaniyan ซีอีโอและผู้ร่วมก่อตั้งของบริษัทกล่าวในรายงานล่าสุดสัมภาษณ์กับเว็บไซต์ข่าวธุรกิจ IPO Edge
“ความไม่สมดุลของต้นทุนทำให้เราก้าวนำหน้าได้” เขากล่าว
หัวข้อบทความ
---------
