การดำรงอยู่ของการตรวจจับ deepfakeหมายถึงการมีอยู่ของนักสืบ Deepfake นั่นคือบทบาทของสามารถDeepFakesIDV Discussion Group ความพยายามในอุตสาหกรรมการทำงานร่วมกันมุ่งเน้นไปที่การจัดการกับภัยคุกคามของ Deepfakes และการโจมตีที่เกี่ยวข้องในระบบการตรวจสอบ ID ดิจิตอล
ทางการพยากรณ์บล็อกใหม่บทความจากกลุ่มแบ่ง“ ภัยคุกคามลึกและโจมตีเวกเตอร์ในการตรวจสอบตัวตนระยะไกล” นำโดยหัวหน้าเจ้าหน้าที่ผลิตภัณฑ์ของ Paravision Joey Pritikin และจากการทำงานจากผู้เชี่ยวชาญในอุตสาหกรรมรวมถึง Daniel Bachenheimer และ Stephanie Schuckers บทความสำรวจวิธีการและจุดโจมตีสำหรับการโจมตี Deepfake โดยมุ่งเน้นที่“ภัยคุกคามและโจมตีเวกเตอร์ในขอบเขตของการตรวจสอบตัวตนระยะไกล”
ผู้โจมตีชิ้นนี้กล่าวว่า“ อาจใช้เทคโนโลยี Deepfake เพื่อนำเสนอตัวตนที่ผิดพลาดแก้ไขเอกสารของแท้หรือสร้างบุคคลสังเคราะห์การใช้ประโยชน์จากจุดอ่อนในกระบวนการตรวจสอบ” ชุดเครื่องมือ Deepfake ยังคงเติบโตไปพร้อมกับองค์ประกอบต่าง ๆ เช่นหน้าแลกเปลี่ยน, การแลกเปลี่ยนการแสดงออก, ภาพสังเคราะห์และเสียงสังเคราะห์ การโจมตีอาจเกิดขึ้นในรูปแบบของการโจมตีการนำเสนอทางกายภาพการโจมตีแบบฉีดหรือภัยคุกคามภายใน” การทำความเข้าใจกับภัยคุกคามเหล่านี้” นักสืบ Deepfake กล่าวว่า“ สิ่งสำคัญสำหรับการพัฒนาการป้องกันที่แข็งแกร่งต่อการจัดการระบบการตรวจสอบตัวตน”
ประเภทของ deepfakes รวมถึงการแลกเปลี่ยนใบหน้า, สื่อสังเคราะห์, การโคลนเสียง
เช่นเดียวกับไดรเวอร์เทคโนโลยีของพวกเขา AI, Deepfakes ไม่ได้เป็นอย่างใดอย่างหนึ่ง แต่เป็น“ คลาสของการจัดการใบหน้าและ/หรือ/หรือการสังเคราะห์ระดับดิจิตอลและ/หรือการสังเคราะห์ซึ่งสามารถใช้ในการบ่อนทำลายโครงการเอกลักษณ์ดิจิตอลระยะไกล” รูปแบบทั่วไป ได้แก่ ภาพนิ่งและภาพเคลื่อนไหวรวมถึงเสียงปลอม-
การแลกเปลี่ยนใบหน้าแทนที่ใบหน้าของบุคคลในวิดีโอที่มีใบหน้าของคนอื่นมักจะราบรื่น การแลกเปลี่ยนนิพจน์ช่วยให้นักต้มตุ๋นควบคุมการแสดงออกทางสีหน้าของวิดีโอ Avatar Stylegan2-typeภาพสังเคราะห์ใบหน้ามีความสมจริงอย่างมาก แต่ปลอมทั้งหมดสร้างขึ้นโดยใช้เครือข่ายฝ่ายตรงข้ามที่ใช้อัลกอริทึมที่เป็นปฏิปักษ์เพื่อปรับแต่งรายละเอียด ภาพที่ใช้การแพร่กระจายสร้างภาพที่เหมือนจริงจากพรอมต์ข้อความ และเครื่องมือวิดีโอรุ่นต่อไปเช่น Synthesia และ Heygen สร้างอวตารสังเคราะห์อย่างสมบูรณ์ที่สามารถเคลื่อนย้ายและพูดเหมือนมนุษย์จริง
ด้านเสียงมีคำพูดสังเคราะห์และการโคลนนิ่งเสียงซึ่งจำลองเสียงของใครบางคนเพื่อข้ามระบบการตรวจสอบเสียงด้วยเสียง
จุดโจมตีที่ลึกล้ำทั่วไปรวมถึงการจับภาพการฉีดเข้าไปในฟีด
ในระยะไกลมาตรฐานการตรวจสอบตัวตนกระบวนการชีวภาพเช่นภาพถ่ายเซลฟี่จะถูกจับควบคู่ไปกับเอกสารประจำตัว ทั้งสองจะถูกเปรียบเทียบกับการตรวจสอบตัวตน เวิร์กโฟลว์นี้นำเสนอจุดโจมตีที่หลากหลายทั้งในเวิร์กโฟลว์อัตโนมัติและด้วยตนเอง
ณ จุดจับภาพส่วนหน้ามีความเสี่ยงทางกายภาพการนำเสนอการโจมตีและการโจมตีแบบฉีดที่จี้อินเทอร์เฟซซอฟต์แวร์ เมื่อจับเอกสารอัตลักษณ์กหน้าลึกสามารถแทรกภายในเอกสารทางกายภาพซึ่งอาจเป็นของแท้หรือสังเคราะห์ทั้งหมด พวกเขายังสามารถฉีดดิจิทัลเป็นภาพดิจิตอลหรือวิดีโอลงในอินเทอร์เฟซซอฟต์แวร์ Capture เวิร์กโฟลว์ด้วยตนเองที่ใช้การแชทวิดีโอสดนั้นมีความเสี่ยงต่อการฉีดวิดีโอที่จำลองเว็บแคม
ด้านหลังมีความเสี่ยงที่เนื้อหา deepfakeอาจถูกเก็บไว้โดยไม่ได้ตั้งใจในระบบหรือความเสี่ยงของการโค่นล้มของมนุษย์ในระบบโฮสต์
Deepfakes พัฒนาไปสู่เครื่องมือการฉ้อโกงขั้นสูงสุดได้อย่างไร
ในฐานะที่เป็นเทคโนโลยีการกำเนิด AI ที่ดีขึ้น Deepfakes จะยังคงเบลอเส้นแบ่งระหว่างคนจริงและคนเสมือนจริง “ เทคโนโลยี Deepfake กำลังก้าวหน้าอย่างรวดเร็วสร้างความเป็นจริงมากขึ้นและเนื้อหาปลอมที่น่าเชื่อถือนั่นเป็นเรื่องยากที่จะตรวจจับได้” บทความกล่าวว่าการปรับเปลี่ยนความเป็นส่วนตัวทำให้การกำหนดเป้าหมายบุคคลที่เฉพาะเจาะจงง่ายขึ้นพรมแดนใหม่ในการประมวลผลอำนาจกำลังสร้างการสร้างแบบเรียลไทม์และการจัดการที่เป็นไปได้
อันโพสต์จาก Paravision บน LinkedIn สรุปการโต้แย้งเพื่อทำความเข้าใจว่าการโจมตีของ Deepfake เกิดขึ้นได้อย่างไรและเมื่อใด “ ตั้งแต่เริ่มต้นการจับภาพไบโอเมตริกซ์ในการโต้ตอบวิดีโอสดการทำความเข้าใจประเด็นเฉพาะของช่องโหว่เหล่านี้เป็นกุญแจสำคัญในการเสริมสร้างการป้องกันดิจิตอลและสร้างความมั่นใจในการตรวจสอบตัวตนที่ปลอดภัย” นักสืบ Deepfake อยู่ในกรณี
หัวข้อบทความ
ไบโอเมตริกซ์-การตรวจจับ deepfake-เฟลค์-เอกลักษณ์ดิจิทัล-การป้องกันการฉ้อโกง-สามารถ-การพยากรณ์-การยืนยันระยะไกล
