ความพยายามในการฉ้อโกงที่ดำเนินการด้วย Deepfakes ได้กลายเป็นส่วนหนึ่งของแนวความปลอดภัยออนไลน์ โดยองค์กรต่างๆ หันมาใช้การตรวจจับการโจมตีในการนำเสนอและการตรวจจับการโจมตีแบบฉีดเพื่อต่อสู้กับการปลอมแปลงระบบไบโอเมตริกใบหน้าหรือเสียง พวกเขายังใช้เครื่องมือวิเคราะห์ไบโอเมตริกและสัญญาณหลายรูปแบบมากขึ้นอีกด้วย
จัดงานสัมมนาผ่านเว็บเมื่อสัปดาห์ที่แล้วเพื่อนำเสนอวิสัยทัศน์สำหรับ "การปกป้องศูนย์ติดต่อจากการฉ้อโกงด้วยเสียงที่ขับเคลื่อนด้วย AI" Ben Colman ผู้ร่วมก่อตั้งและซีอีโอและหัวหน้าฝ่ายผลิตภัณฑ์ Diana Hsieh อธิบายว่าบริษัทใช้การตรวจจับแบบเรียลไทม์และการรับรองความถูกต้องแบบหลายปัจจัยได้อย่างไร
Colman ตั้งข้อสังเกตว่าเสียงเป็นรูปแบบที่มักถูกปลอมแปลงด้วย generative AI และนำเสนอตัวอย่างในชีวิตจริงของเสียง deepfake บริษัทพบว่าจากการโทร 10,000 สายต่อวันที่จัดการสำหรับลูกค้าธนาคารระดับ 1 นั้น 0.17 เปอร์เซ็นต์เป็นการโทรปลอม
Gabe Regan รองประธานฝ่าย Reality Defender ฝ่าย Human Engagement เขียนในบริษัทแห่งหนึ่งโพสต์ในบล็อกการก้าวไปสู่การตรวจจับ Deepfake หลายรูปแบบแบบเรียลไทม์ แสดงถึงการเปลี่ยนแปลงเชิงกลยุทธ์ในแนวทางการตรวจจับสื่อสังเคราะห์ขององค์กร
Regan ตั้งข้อสังเกตว่าล่าสุดของ Entrustแสดงให้เห็นว่าการโจมตีแบบ Deepfake บนระบบไบโอเมตริกซ์เป็นส่วนหนึ่งของ 40 เปอร์เซ็นต์ของการพยายามฉ้อโกงข้อมูลระบุตัวตน
วิธีการหลายสัญญาณใหม่สำหรับรายการเฝ้าดูจาก Daon
ได้รับการจดสิทธิบัตรสำหรับวิธีสร้างรายการรับชมเสียง Deepfake ที่ดีขึ้น
สิทธิบัตรสำหรับ “วิธีการและระบบในการปรับปรุงการตรวจจับข้อมูลที่ฉ้อโกง” ออกโดยองค์กรสิทธิบัตรและเครื่องหมายการค้าของสหรัฐอเมริกาให้กับ Daon เมื่อสัปดาห์ที่แล้ว โดยระบุ CTO Ralph Rodriguez เป็นผู้ประดิษฐ์
รายการเฝ้าดูด้วยเสียงในปัจจุบันมีมูลค่าลดลง ตามเอกสารสิทธิบัตร เนื่องจากมีการระบุภัยคุกคามที่ทราบต่อระบบไบโอเมตริกซ์ แต่ไม่สามารถปรับให้เข้ากับวิธีการฉ้อโกงที่พัฒนาขึ้นได้ พวกเขายัง “โดยทั่วไปไม่เป็นที่รู้จักในการวิเคราะห์รูปแบบพฤติกรรมที่เกี่ยวข้องกับการโต้ตอบด้วยเสียงอย่างเพียงพอ ดังนั้นจึงไม่จับเบาะแสที่อาจบ่งบอกถึงกิจกรรมการฉ้อโกง”
ระบบในการปรับปรุงการตรวจจับข้อมูลฉ้อโกงที่อธิบายไว้ในสิทธิบัตรประกอบด้วยกลไกคะแนนความเสี่ยงที่นำเข้าข้อมูลพฤติกรรม บริบท และข้อมูลเสียง ข้อมูลจะได้รับการวิเคราะห์เพื่อการประเมินระดับความเสี่ยงโดยรวม โดยคะแนนที่มีความเสี่ยงสูงจะกระตุ้นให้เกิดการดำเนินการ เช่น การตรวจสอบหรือการระงับธุรกรรม เช่นเดียวกับ Reality Defender การวิเคราะห์จะดำเนินการแบบเรียลไทม์เพื่อค้นหาความผิดปกติที่เกี่ยวข้องกับคำพูดสังเคราะห์
Daon วางแผนที่จะปรับใช้เทคโนโลยีที่เป็นนวัตกรรมภายในบริษัทโรดริเกซกล่าวกับโซลูชันสำหรับการปรับใช้การผลิตในปี 2568อัพเดตไบโอเมตริกซ์ในอีเมล
การตรวจจับ Deepfake ในโครงการ AI ของอินเดีย
ในอินเดีย โครงการริเริ่ม MEITY (กระทรวงอิเล็กทรอนิกส์และเทคโนโลยีสารสนเทศ)อินเดียAIได้เผยแพร่การแสดงความสนใจสำหรับบุคคลและองค์กรในการเป็นผู้นำชุดโครงการพัฒนาเพื่อเพิ่มความปลอดภัยและความยุติธรรมของ AI
IndiaAI แสวงหาเครื่องมือในการใส่ลายน้ำหรือติดป้ายกำกับเนื้อหาที่สร้างโดย AI ดำเนินการประเมินและจัดการความเสี่ยงของ AI การทดสอบความเครียด และการตรวจจับ Deepfake พร้อมด้วยกรอบงานสำหรับ AI ที่มีจริยธรรม
เครื่องมือตรวจจับ Deepfake ควรทำการระบุและบรรเทาปัญหา Deepfake แบบเรียลไทม์
เปิดรับสมัครตั้งแต่วันนี้จนถึงวันที่ 9 มกราคม 2025 และแนวทางการส่งคือมีอยู่ที่นี่-
การเพิ่มขึ้นของข้อมูลที่ไม่ถูกต้องและการฉ้อโกงเชิงลึกได้รับการยอมรับในคำแนะนำเมื่อวันที่ 27 พฤศจิกายนจากทีมตอบสนองเหตุฉุกเฉินทางคอมพิวเตอร์ของอินเดีย (CERT-In) ที่ฮินดูสถานไทม์สรายงานว่าคำแนะนำดังกล่าวเกิดขึ้นหลังจากมีการเผยแพร่คลิปเสียงปลอมหลายคลิปโดยพรรค Bharatiya Janata ของประธานาธิบดี Modi
ได้รับรางวัลการตรวจจับ Deepfake ของ BioID
เทคโนโลยีการตรวจจับ Deepfake แบบเรียลไทม์สำหรับภาพถ่ายและวิดีโอ คว้ารางวัล Munich Digital Innovation Award ครั้งที่ 9 ในเดือนพฤศจิกายน
ผู้ชนะรางวัลพิจารณาจากการโหวตของผู้ชมในระหว่างงาน ซึ่งจัดขึ้นภายใต้ธีม “Reality Check AI”
“การโจมตีด้วยการปลอมแปลงและการแอบอ้างบุคคลอื่นมีจำนวนเพิ่มมากขึ้น การปกป้องข้อมูลประจำตัวดิจิทัลจึงมีความสำคัญมากกว่าที่เคย” Ho Chang ซีอีโอของ BioID กล่าว
บริษัทได้เปิดตัวกซึ่งวิเคราะห์ลักษณะใบหน้าเพื่อหาสัญญาณของการบิดเบือนเมื่อต้นปีนี้
หัวข้อบทความ
--------
