ได้ประกาศ “การปรับปรุงที่สำคัญ” ในความสามารถในการตรวจจับการปลอมแปลงใบหน้าที่ใช้ AI ซึ่งบริษัทแห่งหนึ่งบล็อกกล่าวว่าใช้ "แนวทางแบบองค์รวมมากขึ้น" ในการตรวจจับการปลอมแปลงที่สร้างขึ้นหรือปรับปรุงด้วย generative AI
การปรับปรุงดังกล่าวรวมถึงการตรวจจับสิ่งแปลกปลอมที่มองเห็นได้อย่างมีประสิทธิภาพมากขึ้นซึ่งทิ้งไว้โดยโมเดล AI การตรวจจับที่ได้รับการปรับปรุงสำหรับฮาร์ดแวร์ที่ถูกบุกรุก และความคล้ายคลึงกันทั่วทั้งการส่ง และเพิ่มการติดตามช่องทางภัยคุกคามด้วยความก้าวหน้าของ AI
นอกจากนี้ Persona ยังได้รวมไมโครโมเดลการตรวจจับการฉ้อโกงมากกว่า 25 รายการเข้ากับ ID รัฐบาลและไบโอเมตริกซ์ในช่วงสองเดือนที่ผ่านมา
“เพื่อตรวจจับการปลอมแปลงใบหน้าประเภทต่างๆ มากขึ้น เราได้เพิ่มการเรียกคืนแบบจำลองที่ขับเคลื่อน ID รัฐบาลและการตรวจสอบเซลฟี่ของเรา และเราได้ปรับปรุงความแม่นยำของพวกมันเพื่อลดผลบวกลวงในระหว่างการวิเคราะห์อัตโนมัติ” โพสต์กล่าว
สัญญาณที่ไม่ใช่ภาพในฮาร์ดแวร์ที่ถูกบุกรุกก็มีความสำคัญเช่นกัน เนื่องจากความซับซ้อนที่เพิ่มขึ้นของข้อมูลระบุตัวตนสังเคราะห์ และการปลอมแปลงใบหน้าประเภทอื่นๆ รูปแบบที่น่าสงสัยอาจเป็นสัญญาณว่าผู้ฉ้อโกงกำลังตรวจสอบระบบ IDV เพื่อทดสอบเทคนิคใหม่ๆ
AI เจนเนอเรชั่นทำให้การตรวจจับการฉ้อโกงตามทันเป็นเรื่องยาก
ไม่ว่าใครจะรู้สึกตื่นเต้นกับความเป็นไปได้ของ generative AI หรือกลัวศักยภาพที่จะเกิดการหยุดชะงักก็ตาม มันก็มาถึงแล้วและต้องได้รับการแก้ไขในฐานะเครื่องขยายเสียงของการฉ้อโกง เพอร์โซน่าบอกว่าได้สังเกตแล้วเพิ่มขึ้น 50 เท่าในช่วงไม่กี่ปีที่ผ่านมา
“จากการเพิ่มขึ้น 50 เท่าของ Deepfakes ในช่วงไม่กี่ปีที่ผ่านมา เห็นได้ชัดว่าจะยังคงเปลี่ยนแนวการฉ้อโกงต่อไป” Rick Song ซีอีโอของ Persona กล่าวในการแถลงข่าว “ในปี 2024 เพียงปีเดียว เราได้ช่วยให้ลูกค้าตรวจจับและบล็อกได้มากกว่า 75 ล้านรายการใช้ประโยชน์จากการปลอมแปลงใบหน้าโดยใช้ AI”
กล่าวโดยสรุปคือ การติดตามวิวัฒนาการของการปลอมแปลงใบหน้าที่ใช้ AI เป็นเรื่องยากมากขึ้นเรื่อยๆ เทคโนโลยีนี้มีมานานพอที่จะเกิดการปลอมแปลงประเภทต่างๆ และคลังแสงก็มีความหลากหลายมากขึ้นอย่างรวดเร็ว
Persona กล่าวว่า “ในช่วงหลายปีที่ผ่านมา โมเดลไมโครและโมเดลทั้งมวลของเราได้ระบุประเภทการปลอมแปลงใบหน้าที่ใช้ AI ที่แตกต่างกันมากกว่า 50 ประเภท รวมถึงการสลับใบหน้า ใบหน้าสังเคราะห์ และการปรับเปลี่ยนใบหน้า ซึ่งผู้ฉ้อโกงใช้ในการพยายาม (ไม่สำเร็จ) เพื่อเลี่ยงผ่านของเราความสามารถ”
ยิ่งไปกว่านั้น “ผู้ฉ้อโกงใช้ประโยชน์จากเทคนิคที่หลากหลาย เช่น การโจมตีการนำเสนอและ– เพื่อปรับใช้การปลอมแปลงใบหน้าที่ใช้ AI กับระบบยืนยันตัวตน”
ในขณะเดียวกัน มนุษย์ก็มีประสิทธิภาพน้อยลงในการตรวจจับการปลอมแปลงใบหน้าที่ใช้ AI ที่สมจริงมากเกินไป
กลยุทธ์การฉ้อโกงจะต้องสามารถปรับตัวให้เข้ากับการโจมตีที่กำลังพัฒนาได้
นั่นหมายความว่าสิ่งสำคัญคือต้องมีกลยุทธ์ที่รวมสัญญาณประเภทต่างๆ เข้าด้วยกัน ทั้งแบบภาพและไม่ใช่ภาพ ตลอดจนรูปแบบที่ใหญ่ขึ้น และปรับเปลี่ยนเมื่อเวลาผ่านไป Persona ได้ “สังเกตการณ์ผู้ฉ้อโกงโดยใช้ทั้งการปลอมแปลงใบหน้าด้วย AI และภาพเซลฟี่ที่ถูกขโมยในการโจมตีแบบฉีดยา”
“หากไม่มีสัญญาณที่ไม่ใช่ภาพของเรา ก็มีโอกาสที่กรณีเช่นนี้อาจจะผ่านการตรวจสอบด้วยภาพ”
การ์ตเนอร์คาดการณ์ว่าภายในปี 2569 การโจมตีโดยใช้ Face Deepfakes ที่สร้างโดย AI อาจทำให้องค์กรถึง 30 เปอร์เซ็นต์หันมาใช้หลายช่องทางที่ขับเคลื่อนด้วย AIและโซลูชันการรับรองความถูกต้องเป็นการป้องกันที่จำเป็น และถูกต้องแล้ว ผู้ฉ้อโกงยังคงปรับปรุงและปรับปรุงเทคนิคของพวกเขาต่อไป Persona ตั้งข้อสังเกตว่า “เพียงเพราะแนวทางของคุณใช้ได้ผลในวันนี้ไม่ได้หมายความว่าวันพรุ่งนี้จะยังใช้ได้ผลอยู่”
การต่อสู้กับการปลอมแปลงใบหน้าของ AI ต้องการสิ่งที่ Song เรียกว่า "แนวทางเชิงรุกและปรับเปลี่ยนได้"
กลยุทธ์แบบองค์รวมของ Persona รับประกันคลังสัญญาณที่ครอบคลุม ความยืดหยุ่น และความปลอดภัย “ทีมวิเคราะห์ข้อมูล วิศวกรรม และติดตามภัยคุกคามของเรากำลังดูแลจัดการแหล่งข้อมูลใหม่อย่างต่อเนื่องและโมเดลการตรวจจับที่ธุรกิจสามารถนำไปใช้ในวงกว้างหรือเชิงกลยุทธ์มากขึ้นในระหว่างการโจมตีที่ใช้งานอยู่”
หัวข้อบทความ
----------
