การตรวจจับ Deepfake เมื่อไม่นานมานี้ได้ปกป้องมุมเฉพาะของอินเทอร์เน็ตได้ปะทุขึ้นจนกลายเป็นสมรภูมิรบที่แท้จริง ในขณะที่ผู้ฉ้อโกงส่งกระแสข้อมูลเข้าสู่สนามประลอง กระตุ้นให้กองหลังจากสนามไบโอเมตริกปรากฏตัวมากขึ้นเรื่อยๆ
ล่าสุดที่โผล่ออกมาจากหลังม่านคือโครงการ DefAIซึ่งมีจุดมุ่งหมายอย่างมั่นคงในการปลอมแปลงที่เป็นภัยคุกคามต่อภาคส่วนการประกันอายุ ในแง่ของมวยปล้ำ DefAI คือ "ความมั่นคง": พันธมิตรของหน่วยงานที่รวมตัวกันเพื่อเป้าหมายร่วมกัน - และศัตรูร่วมกัน
ชื่อที่ดำเนินโครงการจะคุ้นเคยกับทุกคนในภาคส่วน: โครงการรับรองการตรวจสอบอายุในสหราชอาณาจักร () เพิ่งได้รับเลือกให้เรียกใช้ สถาบันวิจัยของสวิสมุ่งเน้นไปที่ AI; สมาคมผู้ให้บริการตรวจสอบอายุ () ซึ่งเป็นตัวแทนของผู้ให้บริการประกันอายุอิสระ และผู้ขายประกันอายุในเมืองโลซานน์ซึ่งเป็นหัวหอกของโครงการ
ตามเว็บไซต์ กลุ่มความร่วมมือนี้ซึ่งได้รับทุนร่วมจาก Innosuisse และ Innovate UK มีเป้าหมายเพื่อ "ตรวจสอบอันตรายของการนำเสนอและการโจมตีแบบฉีดต่อการตรวจสอบอายุ การป้องกันที่เป็นไปได้ที่คุณสามารถสร้างขึ้นมาได้ และวิธีการประเมินและกำหนดมาตรฐานที่อุตสาหกรรมจะต้องใช้ ประเมินความพร้อมในการต้านทานการโจมตีดังกล่าว”
กฎระเบียบ ภัยคุกคาม GenAI เพิ่มขึ้นควบคู่กัน ผลักดันความต้องการในการตรวจจับ
ในการสัมภาษณ์ทางอีเมลกับอัพเดตไบโอเมตริกซ์George Billinge โฆษกของโครงการ DefAI กล่าวว่า Deepfakes นำเสนอภัยคุกคามที่ไม่เหมือนใครต่อเทคโนโลยีการประกันอายุด้วยไบโอเมตริกซ์
“งานที่ผ่านมาในพื้นที่นี้เน้นไปที่เทคโนโลยี แต่ไม่ใช่การประกันอายุ” เขากล่าว “โครงการนี้ใช้งานที่ได้ทำไปแล้วโดยพิจารณาถึงภัยคุกคามของเทคโนโลยีการจดจำใบหน้าแบบ Deepfakes แต่ปรับและพัฒนาให้เหมาะกับบริบทของการรับประกันอายุ”
Billinge อดีตผู้จัดการนโยบายของ Ofcom ซึ่งปัจจุบันเป็นที่ปรึกษาเทคโนโลยีส่องสว่างตั้งข้อสังเกตถึงการเพิ่มขึ้นของกฎหมายระดับโลกในการควบคุมบริการออนไลน์ โดยเฉพาะอย่างยิ่งสำหรับผู้ใช้รุ่นเยาว์ โดยไม่กระทบต่อสิทธิในการมีชีวิตออนไลน์ที่แข็งแกร่ง เมื่อรวมกับการเกิดขึ้นและการพัฒนาอย่างต่อเนื่องของเทคโนโลยี AI ที่สามารถนำไปใช้เพื่อการฉ้อโกงได้ความต้องการที่มีประสิทธิภาพเครื่องมือต่างๆ กำลังเพิ่มขึ้นทั้งในด้านการปฏิบัติตามกฎระเบียบและด้านประสบการณ์ของลูกค้า
โครงการ DefAI เชื่อมั่นเทคโนโลยี (AE) เป็นส่วนสำคัญของปริศนาในการสร้างอินเทอร์เน็ตแบบ "คำนึงถึงวัย" เนื่องจาก Deepfakes สามารถนำไปใช้ในรูปแบบการนำเสนอหรือการโจมตีแบบฉีดเพื่อหลีกเลี่ยงเทคโนโลยีการประมาณอายุ Privately และพันธมิตรจึงระบุว่าปัญหานี้เป็นหนึ่งในข้อกังวลที่มีอยู่สำหรับภาคการประกันอายุ
“การตรวจจับการโจมตีที่ซับซ้อน เช่น หน้ากาก 3 มิติ บางส่วนหรือสมจริงมากขึ้นเป็นสิ่งที่ท้าทายและเป็นภัยคุกคามร้ายแรงต่อความน่าเชื่อถือของระบบจดจำใบหน้า” Billinge กล่าว “วิธีการตรวจจับการโจมตีการนำเสนอ (PAD) ส่วนใหญ่ที่มีอยู่ในวรรณกรรมทั่วไปพยายามแก้ไขปัญหาสำหรับเครื่องมือโจมตีการนำเสนอจำนวนจำกัดและภาพสเปกตรัมที่มองเห็นได้”
ในขณะเดียวกันนำเสนอข้อมูลเท็จโดยตรงต่อระบบไบโอเมตริกซ์โดยการจี้ฟีดดิจิทัล “หากการโจมตีสามารถเกิดขึ้นได้ในแบบเรียลไทม์ วิธีการตรวจจับความมีชีวิตชีวาอาจไม่ได้ผลกับการโจมตีดังกล่าวเลย” Billinge กล่าว โดยอธิบายว่าการจำแนกประเภทของการโจมตีโดยทั่วไปนั้นมีปัญหาในการสรุปภาพรวมสำหรับการโจมตีแบบฉีด และการฝึกฝนนั้นมักจะไม่เพียงพอ
การประกวด Deepfake 'เกมแมวจับหนูกับนักแสดงที่ไม่ดี'
เพื่อรับมือกับภัยคุกคามที่อาจเกิดขึ้นต่อการดำรงชีวิตของพวกเขา DefAI ได้ใช้จุดยืนของการมองโลกในแง่ดีอย่างระมัดระวัง Billinge กล่าวว่ามีการกล่าวถึงสมมติฐานที่สำคัญสองประการที่ใช้กับสาขานี้- หนึ่ง “ไม่มีอะไรที่เป็นไปไม่ได้ที่จะดำเนินการ” และประการที่สอง “แนวทางการโจมตีใหม่ๆ จะเกิดขึ้นโดยเรียนรู้จากกลไกการป้องกันใดๆ ที่เราพัฒนา”
“นักพัฒนาโซลูชันที่ออกแบบมาเพื่อรับมือกับอันตรายในโลกออนไลน์มักจะเล่นเกมแมวจับหนูกับผู้ไม่ประสงค์ดีอยู่ตลอดเวลา โดยพยายามระบุแนวโน้มและตอบสนองต่อแนวโน้มเหล่านั้นแบบเรียลไทม์” Billinge กล่าว “ในขณะเดียวกัน เราต้องเข้มงวดในการรับรองว่าข้อมูลที่เราใช้สำหรับกิจกรรมการวิจัยและพัฒนาของเรานั้นได้มาและประมวลผลอย่างมีจริยธรรม ตาม– ในขณะที่แข่งขันกับนักแสดงที่มีระเบียบวินัยน้อยกว่าในเรื่องนี้”
ดังนั้น DefAI จึงมีเป้าหมายที่จะเจาะลึกถึงคำถามว่าปัจจุบันเวกเตอร์การโจมตีประเภทใดที่มีแนวโน้มมากที่สุดที่จะใช้เพื่อกำหนดเป้าหมายเทคโนโลยีการประมาณอายุไบโอเมตริกซ์ การค้นหาคำตอบหมายถึงการเสียค่าใช้จ่ายในการโจมตีประเภทต่างๆ การรวบรวมหลักฐานเกี่ยวกับการโจมตีที่เกิดขึ้นแล้ว และตัดพื้นที่ที่ชัดเจนมากขึ้นสำหรับการประมาณอายุโดยรวมภูมิประเทศ.
กลุ่มสมาคมมีเวลาดำเนินการไม่นาน: โครงการนี้มีกำหนดจะเสร็จสิ้นในช่วงฤดูร้อนปี 2568 เมื่อถึงจุดนั้น Billinge กล่าวว่า Privately ควรบูรณาการการนำเสนอขั้นสูงและการป้องกันการโจมตีแบบฉีดเข้าไปในผลิตภัณฑ์ของตน โดยมี Ididap ให้การสนับสนุนการวิจัยและ ACCS ประเมินประสิทธิภาพ . สุดท้ายนี้ AVPA จะจัดทำและแบ่งปันรายงานซึ่งสรุปแนวทางปฏิบัติที่ดีที่สุดและแนวปฏิบัติสำหรับสมาชิกในการจัดการกับการโจมตีแบบดีพเฟคที่ยังคงเกิดขึ้นอย่างต่อเนื่อง
หัวข้อบทความ
----------