ได้ประกาศ“ การปรับปรุงที่สำคัญ” ในความสามารถในการตรวจจับการปลอมแปลงหน้า AI ซึ่งเป็น บริษัท ซึ่งเป็น บริษัทบล็อกกล่าวว่าใช้“ วิธีการแบบองค์รวมมากขึ้น” มากขึ้นในการตรวจจับการปลอมแปลงที่สร้างขึ้นหรือปรับปรุงด้วย AI Generative
การปรับปรุงรวมถึงการตรวจจับสิ่งประดิษฐ์ภาพที่ทรงพลังมากขึ้นโดยรุ่น AI การตรวจจับที่ดีขึ้นสำหรับฮาร์ดแวร์ที่ถูกบุกรุกและความคล้ายคลึงกันการส่งและเพิ่มการตรวจสอบช่องทางการคุกคามที่มีความก้าวหน้า AI
Persona ได้รวม Micromodels ตรวจจับการฉ้อโกงมากกว่า 25 รายการไว้ใน ID ของรัฐบาลและไบโอเมตริกซ์ในช่วงสองเดือนที่ผ่านมา
“ เพื่อจับการปลอมแปลงใบหน้าได้มากขึ้นเราได้เพิ่มการเรียกคืนโมเดลที่ให้กำลังกับ ID ของรัฐบาลและการตรวจสอบเซลฟี่ของเราและเราได้ปรับปรุงความแม่นยำของพวกเขาเพื่อลดผลบวกที่ผิดพลาดในระหว่างการวิเคราะห์อัตโนมัติ” โพสต์กล่าว
สัญญาณที่ไม่ใช่ภาพในฮาร์ดแวร์ที่ถูกบุกรุกก็เป็นกุญแจสำคัญเช่นกันเนื่องจากความซับซ้อนที่เพิ่มขึ้นของตัวตนสังเคราะห์และการปลอมแปลงใบหน้าประเภทอื่น ๆ รูปแบบที่น่าสงสัยอาจเป็นธงที่ผู้หลอกลวงกำลังตรวจสอบระบบ IDV เพื่อทดสอบเทคนิคใหม่
AI Generative ทำให้ยากต่อการตรวจจับการฉ้อโกงเพื่อให้ก้าว
ไม่ว่าจะมีใครตื่นเต้นเกี่ยวกับความเป็นไปได้ของ AI ที่เกิดขึ้นหรือกลัวศักยภาพในการหยุดชะงักมันอยู่ที่นี่และต้องได้รับการแก้ไขเป็นเครื่องขยายเสียงการฉ้อโกง Persona บอกว่ามันได้สังเกตเพิ่มขึ้น 50 เท่าในช่วงไม่กี่ปีที่ผ่านมา
“ ด้วยการเพิ่มขึ้น 50 เท่าของ Deepfakes ในช่วงไม่กี่ปีที่ผ่านมาก็เห็นได้ชัดว่าจะยังคงเปลี่ยนภูมิทัศน์การฉ้อโกงต่อไป” Rick Song ซีอีโอของ Persona กล่าวในการแถลงข่าว “ ในปี 2024 เพียงอย่างเดียวเราช่วยลูกค้าตรวจจับและปิดกั้นกว่า 75 ล้านคนใช้ประโยชน์จากการปลอมแปลงใบหน้าที่ใช้ AI”
ในระยะสั้นมันยากขึ้นที่จะก้าวไปสู่วิวัฒนาการของการปลอมแปลงใบหน้าที่อิงกับ AI เทคโนโลยีมีมานานพอที่จะมีการปลอมตัวเกิดขึ้นและอาร์เซนอลก็มีความหลากหลายมากขึ้นอย่างรวดเร็ว
Persona กล่าวว่า“ ในช่วงหลายปีที่ผ่านมา micromodels และ ensemble ของเราได้ระบุกว่า 50 คลาสที่แตกต่างกันของการปลอมแปลงใบหน้าที่ใช้ AI-รวมถึงการแลกเปลี่ยนใบหน้า, ใบหน้าสังเคราะห์และใบหน้า morphs-ผู้ที่ใช้ในการพยายาม (ไม่ประสบความสำเร็จ)ความสามารถ”
นอกจากนี้“ ผู้ฉ้อโกงใช้ประโยชน์จากเทคนิคที่หลากหลายเช่นการโจมตีการนำเสนอและ-เพื่อปรับใช้การปลอมแปลงใบหน้าที่ใช้ AI กับระบบตรวจสอบตัวตน”
ในขณะเดียวกันมนุษย์ก็มีประสิทธิภาพน้อยลงในการตรวจจับการปลอมแปลงใบหน้าที่มีพื้นฐานจาก AI
กลยุทธ์การฉ้อโกงจำเป็นต้องสามารถปรับให้เข้ากับการโจมตีที่พัฒนาขึ้นได้
นั่นหมายความว่าเป็นเรื่องสำคัญที่จะต้องมีกลยุทธ์ที่รวมเอาสัญญาณที่แตกต่างกันของสัญญาณ-รวมถึงภาพและไม่ใช่ภาพรวมถึงรูปแบบที่ใหญ่กว่า-และปรับเมื่อเวลาผ่านไป Persona ได้“ สังเกตว่าผู้หลอกลวงโดยใช้ทั้งการปลอมแปลงใบหน้า AI และเซลฟี่ที่ถูกขโมยในการโจมตีฉีด”
“ หากไม่มีสัญญาณที่ไม่ใช่ภาพของเรามีโอกาสเช่นนี้อาจมีการตรวจสอบด้วยการตรวจสอบด้วยภาพ”
การทำนายจากการ์ตเนอร์กล่าวว่าภายในปี 2569 การโจมตีโดยใช้ Ai-Generated Face Deepfakes สามารถทำขึ้นได้ถึง 30 เปอร์เซ็นต์ขององค์กรที่ใช้หลายช่องทางที่ขับเคลื่อนด้วย AIและโซลูชันการตรวจสอบสิทธิ์เป็นการป้องกันที่จำเป็น และถูกต้องดังนั้น: ผู้หลอกลวงยังคงปรับแต่งและปรับปรุงเทคนิคของพวกเขาต่อไป Persona ตั้งข้อสังเกตว่า“ เพียงเพราะวิธีการของคุณทำงานในวันนี้ไม่ได้หมายความว่ามันจะยังคงทำงานในวันพรุ่งนี้”
การต่อสู้กับการสวมรอย AI ต้องใช้เพลงที่เรียกว่า“ แนวทางเชิงรุกและปรับตัวได้”
กลยุทธ์แบบองค์รวมของ Persona สัญญาว่าจะมีห้องสมุดสัญญาณที่ครอบคลุมความยืดหยุ่นและความปลอดภัย “ ทีมการวิเคราะห์ข้อมูลวิศวกรรมและการตรวจสอบภัยคุกคามของเรากำลังดูแลแหล่งข้อมูลใหม่อย่างต่อเนื่องและรูปแบบการตรวจจับที่ธุรกิจสามารถนำไปใช้อย่างกว้างขวางหรือมากกว่าเชิงกลยุทธ์ในระหว่างการโจมตีที่ใช้งานอยู่”
หัวข้อบทความ
----------
