การหลอกลวงภาพลึกที่เพิ่มขึ้น; ผู้เชี่ยวชาญบอกว่าการตรวจจับที่ดีขึ้นจำเป็นสำหรับผิวคล้ำ

2023-08-28

การฉ้อโกง Deepfake ยังคงเพิ่มขึ้นด้วยตัวอย่างล่าสุดที่ค้นพบในฮ่องกง ในขณะเดียวกันคนวงในเตือนว่าเครื่องมือตรวจจับจะต้องปรับปรุงเมื่อตรวจสอบผิวคล้ำ

ตำรวจฮ่องกงได้ทำลายคดีแรกในศูนย์กลางทางการเงินที่เกี่ยวข้องกับ Deepfakes เพื่อหลอกลวงธนาคารและผู้ให้กู้รายอื่น

ตำรวจจับกุมคนหกคนที่ได้รับภาพแปดภาพที่ถูกขโมยไปพร้อมกับบัตรประจำตัวฮ่องกงที่ถูกขโมยและพิสูจน์ที่อยู่และรายได้ ผู้ต้องสงสัยที่ถูกกล่าวหาว่าใช้เอกสารการฉ้อโกงเพื่อสมัครอย่างน้อย 20 สินเชื่อออนไลน์ หนึ่งในแอปพลิเคชันได้รับการอนุมัติสำหรับเงินกู้ HK $ 70,000 (US $ 8,937), South China Morning Postรายงาน- Morning Post เป็นเจ้าของโดย Alibaba ซึ่งรัฐบาลจีนถือหุ้น-

ภาพที่สร้างขึ้นถูกใช้เพื่อเลียนแบบผู้คนจากบัตรประจำตัวประชาชนในระหว่างขั้นตอนการสมัครออนไลน์เมื่อสถาบันการเงินกำหนดให้ผู้สมัครต้องอัปโหลดการสแกนเอกสารประจำตัวและเซลฟี่แบบเรียลไทม์

การหลอกลวง Deepfake อีกครั้งในเดือนพฤษภาคมได้เกลี้ยกล่อมพลเมืองญี่ปุ่นเพื่อซื้อฮ่องกง $ 1,700 (US $ 216) เครดิตเกมคอมพิวเตอร์ เหยื่อคือถูกหลอกด้วยการโทรวิดีโอที่ฉ้อโกงซึ่งนักต้มตุ๋นเปลี่ยนใบหน้าของเขากับซีอีโอของธนาคารฮ่องกง

อคติการตรวจจับ Deepfake อาจทำร้ายบางคนได้บ่อยขึ้น

คนวงใน ID เตือนว่าวิธีการตรวจจับ Deepfake ไม่ได้ทำงานกับคนที่มีโทนสีผิวที่เข้มกว่าเสมอไป ชุดการฝึกอบรมจะต้องมีเชื้อชาติสำเนียงเพศอายุและโทนสีผิวทั้งหมดเพื่อให้มีประสิทธิภาพมากขึ้น

Rijul Gupta ผู้ร่วมก่อตั้งและซีอีโอของยุคกลางผู้ขายที่สร้างแอพโซเชียลมีเดีย DeepfakeบอกGuardian ที่ชุดข้อมูลได้รับการเบ้อย่างหนักต่อชายวัยกลางคนผิวขาว “ อคติโดยธรรมชาติ” ในเครื่องมือเหล่านี้หมายความว่าพวกเขาจะทำงานได้แย่ลงเมื่อวิเคราะห์ภาพของคนอื่น

จะมี“ การเพิ่มขึ้นของการหลอกลวง deepfake การฉ้อโกงและข้อมูลที่ผิดที่เกิดจาก AI ซึ่งจะมีเป้าหมายสูงและมุ่งเน้นไปที่ชุมชนชายขอบ” Gupta กล่าว

Mutale Nkonde ที่ปรึกษานโยบาย AI ถึงและ CEO ของAI สำหรับประชาชนองค์กรที่ไม่แสวงหาผลกำไรพยายามผลักดัน AI ให้เป็นบทบาทที่รับผิดชอบต่อสังคมและเป็นประชาธิปไตยชี้ให้เห็นว่านักพัฒนาตระหนักดีถึงปัญหาของการจดจำใบหน้าด้วยโทนสีผิวเข้ม แต่เนื่องจากมีกฎระเบียบเล็กน้อยเกี่ยวกับการขายการจดจำใบหน้าเขาอ้างว่าอคติพื้นฐานยังคงถูกทำซ้ำ

Ellis Monk ศาสตราจารย์ด้านสังคมวิทยาที่ Harvard University และเยี่ยมชมนักวิจัยอาจารย์ที่ Google กล่าวว่าเขาพยายามที่จะแก้ปัญหาโดยการจัดทำชุดข้อมูลใหม่สำหรับรูปแบบการเรียนรู้ของเครื่อง ของเขาสเกลโทนสีผิวพระให้เสียงที่กว้างขึ้นของโทนเสียงมากกว่าระดับ Fitzpatrick