มีการพบอคติที่เป็นอันตรายในชุดข้อมูล Deepfake และรูปแบบการตรวจจับโดยนักวิจัยจากมหาวิทยาลัยเซาเทิร์นแคลิฟอร์เนีย ชุดข้อมูลที่ใช้กันทั่วไปคือ“ อย่างท่วมท้น” ซึ่งถูกครอบงำโดยวิชาสีขาว - โดยเฉพาะผู้หญิงผิวขาว
ผลที่ตามมาของความเบ้นี้คือเครื่องตรวจจับ Deepfake ไม่สามารถมองเห็นภาพที่ฉ้อโกงและวิดีโอของคนที่มีสีได้
นั่นเป็นปัญหา หลายคนในอุตสาหกรรมรู้สึกว่าอัลกอริทึม Deepfake กำลังเติบโตอย่างรวดเร็วอย่างรวดเร็วจนเครื่องตรวจจับอัตโนมัติจะเป็นความหวังเดียวในไม่ช้าที่จะมองเห็นพวกเขา
อันกระดาษโดยนักวิจัย Loc Trinh และ Yan Liu ทดลองกับเครื่องตรวจจับ Deepfake ที่รู้จักกันดีสามคนและพบว่าอัตราความผิดพลาดที่แตกต่างกันมากถึง 10.7 % ขึ้นอยู่กับเพศและเชื้อชาติ
ทั้งคู่พบว่าโดยเฉพาะอย่างยิ่ง FaceForensics ++ นั้นมีความสมดุลไม่ดี เป็นสิ่งสำคัญที่จะต้องทราบว่าการให้ความสนใจกับอคติในชุดข้อมูล AI นั้นใหม่มาก ตัวอย่างเพิ่มเติมของ underrepresentation จะปรากฏขึ้นในบางครั้งเมื่อมีการปรับปรุง
การบรรลุอัตราการบวกเท็จต่ำเมื่อพยายามดูวิดีโอที่ปลอมแปลงเป็น“ ปัญหาที่ท้าทาย” นักวิจัยเขียน
การใช้ชุดข้อมูลไบโอเมตริกซ์แบบผสมผสานและชุดข้อมูลไบโอเมตริกซ์แบบผสมผสานพวกเขาได้รับการฝึกฝน MesoInception4, Xception และรุ่น X-ray ซึ่งทั้งหมดนี้มี“ ความสำเร็จที่พิสูจน์แล้ว” ในการตรวจจับวิดีโอ พวกเขากล่าวว่าทั้งสามเป็นตัวแทนของขนาดสถาปัตยกรรมและสูตรการสูญเสียที่หลากหลาย
เครื่องตรวจจับทั้งสามตัวทำเช่นเดียวกันกับใบหน้าชายและหญิงให้คะแนนความแตกต่าง 0.1 ถึง 0.3 เปอร์เซ็นต์ในอัตราความผิดพลาด
เครื่องตรวจจับที่ได้รับการฝึกฝนเกี่ยวกับภาพผสมนั้นประสบความสำเร็จน้อยที่สุดเมื่อนำเสนอด้วยภาพที่มืดกว่าและแอฟริกา - ความแตกต่าง 3.5 ถึง 6.7 เปอร์เซ็นต์ในอัตราความผิดพลาด
อย่างไรก็ตามภาพผสมและใบหน้าเอ็กซ์เรย์ประสบความสำเร็จมากที่สุดในการทำงานกับใบหน้าชายผิวขาว-ด้วยอัตราความผิดพลาด 9.8 เปอร์เซ็นต์สำหรับใบหน้าสีขาวทั้งหมดและ 9.5 เปอร์เซ็นต์สำหรับผู้ชายผิวขาว
หนึ่งบทความใน VentureBeat ได้ทำการเปรียบเทียบระหว่าง USC Paper และอีกอันหนึ่งที่ตีพิมพ์เมื่อปีที่แล้วโดย University of Colorado, Boulder ตามสิ่งพิมพ์ผู้ชาย cisgender เป็นระบุอย่างถูกต้องอย่างน้อย 95 เปอร์เซ็นต์ของเวลาโดยอัลกอริทึมที่เขียนโดย Microsoft, Clarifai, Amazon และอื่น ๆ
แต่ผู้ชายข้ามเพศถูกระบุว่าเป็นผู้หญิง 38 เปอร์เซ็นต์ของเวลา
นักวิจัยบางคนกำลังทำงานเกี่ยวกับการตรวจจับการตรวจสอบทางชีวภาพความพยายามเดียวตระหนักถึงการเปลี่ยนสีที่รวดเร็วและบอบบางในใบหน้าของคนที่มีชีวิตขณะที่เลือดล้างใต้ผิวหนังในพัลส์
Facebook ยังคงเผาไหม้จากการไม่สามารถแยกการโฆษณาชวนเชื่อทางการเมืองที่เป็นอันตรายออกจากหัวข้อที่ได้รับการบอกกล่าวเกี่ยวกับการดูแลสุขภาพที่เสนอรางวัล $ 1 ล้านในนั้นDeepfake Detection Challengeซึ่งห่อหุ้มเมื่อเดือนมิถุนายนที่ผ่านมา ผลลัพธ์ของความท้าทายเป็นอะไร แต่ชัดเจน
หัวข้อบทความ
ความแม่นยำ-AI-อคติไบโอเมตริกซ์-ไบโอเมตริกซ์-การวิจัยทางชีวภาพ-ชุดข้อมูล-การตรวจจับ deepfake-เฟลค์-การจดจำใบหน้า-การตรวจจับการปลอมแปลง
