นักพัฒนาที่ได้รับการยอมรับใบหน้าดูเหมือนจะก้าวหน้าในการลด“ อคติ” หรือความไม่เสมอภาคทางประชากรในความแม่นยำทางชีวภาพตามผลลัพธ์ของความท้าทายที่นำเสนอต่อการประชุมยุโรปเกี่ยวกับวิสัยทัศน์คอมพิวเตอร์ 2020 (ECCV) แต่ปัญหายังห่างไกลจากการแก้ไข
2020 Chalearn มองผู้คนความท้าทายการจดจำและการวิเคราะห์ใบหน้าที่ยุติธรรมได้รับการสนับสนุนจากสิ่งใดก็ตามและแสดงและแสดงการปรับปรุงที่เพิ่มขึ้นในประสิทธิภาพในกลุ่มต่าง ๆ ผ่านเทคนิคการลดอคติที่หลากหลาย
มีผู้เข้าร่วม 151 คนในการท้าทาย 36 คนซึ่งส่งไปยังระยะสุดท้ายของความท้าทายโดยมี 10 เกิน 0.999 AUC-ROC (พื้นที่ภายใต้เส้นโค้งลักษณะการทำงานของตัวรับสัญญาณ) และคะแนนต่ำในการวัดอคติ
ผู้เข้าแข่งขันใช้กลยุทธ์รวมถึงการประมวลผลล่วงหน้าการทำให้เป็นเนื้อเดียวกันของการแจกแจงข้อมูลฟังก์ชั่นการสูญเสียที่รับรู้อคติแบบจำลองชุดและอื่น ๆ เพื่อลองและลดอคติในผลลัพธ์การจับคู่ไบโอเมตริกซ์
อัลกอริทึมของทีม 10 อันดับแรกพบว่าแยกแยะบ่อยที่สุดกับเพศชายผิวขาว (42.2 เปอร์เซ็นต์ของกรณี) และน้อยที่สุดบ่อยครั้งที่เทียบกับผู้หญิงผิวดำ (11.2 เปอร์เซ็นต์) สำหรับคู่ภาพที่ตรงกัน พบผลลัพธ์ย้อนกลับสำหรับคู่ที่ไม่จับคู่โดยมีการเลือกปฏิบัติ 45.5 เปอร์เซ็นต์ต่อหญิงผิวดำเมื่อเทียบกับเพียง 12.6 เปอร์เซ็นต์ต่อเพศชายผิวขาว ในการทดสอบกับชุดข้อมูล Paranoidai อย่างไรก็ตามความถี่ต่ำสุดของอคตินั้นเกี่ยวข้องกับเพศหญิงที่มีสีผิวเข้มสำหรับทั้งคู่บวก (จับคู่) และคู่ลบ (ไม่ตรงกัน)
“ แม้จะมีความแม่นยำสูงไม่มีวิธีใดที่ไม่มีอคติ” ผู้เขียนรายงานสรุป “ โดยการวิเคราะห์ผลลัพธ์ของทีมท็อป 10 เราพบว่าอัลกอริทึมของพวกเขามีแนวโน้มที่จะมีอัตราการบวกผิดพลาดที่สูงขึ้นสำหรับผู้หญิงที่มีโทนสีผิวเข้มและสำหรับตัวอย่างที่ทั้งสองคนสวมแว่นตาตรงกันข้ามมีอัตราการลบเท็จที่สูงขึ้นสำหรับผู้ชายที่มีโทนสีผิวอ่อนและตัวอย่างที่ทั้งสองคนอายุน้อยกว่า 35 ปี”
อัลกอริทึมสถาปัตยกรรมมีความสำคัญสำหรับอคตินักวิจัยพบว่า
ความแตกต่างทางสถาปัตยกรรมระหว่างอัลกอริทึมที่ได้รับการฝึกฝนในชุดข้อมูลเดียวกันอาจทำให้เกิดความแตกต่างอย่างมีนัยสำคัญในประสิทธิภาพการทำงานของไบโอเมตริกซ์และเอฟเฟกต์อคติตามการศึกษาที่ค้นหาแหล่งที่มาของความแตกต่างทางประชากรในความแม่นยำทางชีวภาพของระบบการจดจำใบหน้าโดยนักวิจัยที่มหาวิทยาลัยรัฐวิชิตา
-การทำความเข้าใจความเป็นธรรมของอัลกอริทึมการจำแนกเพศในกลุ่มเชื้อชาติ'ตรวจสอบการจำแนกประเภททางเพศบนใบหน้าแม้ว่าจะได้รับการรายงานที่ไม่ถูกต้องในการตรวจสอบการระบุใบหน้าไบโอเมตริกซ์โดยสื่อสิ่งพิมพ์ของผู้บริโภคอย่างน้อยหนึ่งรายการโดยมีโมเดลเครือข่ายประสาทที่หลากหลายที่ประเมินในคอนเสิร์ตกับชุดข้อมูล UTKFACE และ Fairface
ในอนาคตนักวิจัยวางแผนที่จะพิจารณาคุณสมบัติการสะท้อนแสงผิวหนังสัณฐานวิทยาใบหน้าและปัจจัยอื่น ๆ เป็นสาเหตุที่เป็นไปได้ที่อยู่เบื้องหลังความไม่เสมอภาคทางประชากรในประสิทธิภาพของอัลกอริทึม
ความกังวลในทางปฏิบัติสำหรับผู้สอบ
การตรวจสอบทางชีวภาพ proctoring และปัญหาที่อาจทำให้ผู้คนในกลุ่มประชากรบางกลุ่มได้รับการตรวจสอบอย่างเข้มงวดในแคลิฟอร์เนียด้วยความยุติธรรมของศาลฎีกาของรัฐที่มีการพิจารณาการเสนอราคาเพื่อปิดกั้นการใช้เทคโนโลยีของเทคโนโลยีข่าวศาลรายงาน
คำขอดังกล่าวได้ทำขึ้น 15 คณบดีโรงเรียนกฎหมายซึ่งแสดงความกังวลว่าระบบเป็นไปได้หรือไม่กับนักเรียนที่อาศัยอยู่ในอพาร์ทเมนต์ขนาดเล็กที่จำเป็นในการสอบโดยไม่มีอาหารหรือหนังสือที่มองเห็นได้และข้อกล่าวหาเกี่ยวกับปัญหาทางเทคนิครวมถึงคุณสมบัติไบโอเมตริกซ์ของซอฟต์แวร์ Proctoring
ผู้พิพากษาศาลฎีกาแห่งรัฐแคลิฟอร์เนีย Tani Cantil-Sakauye ตั้งข้อสังเกตว่านโยบายการประชุมแห่งชาติของผู้ตรวจสอบบาร์ห้ามการทดสอบแบบเปิดหนังสือ ศาลก่อนหน้านี้ล่าช้าการสอบและลดคะแนนการผ่านขั้นต่ำจาก 1440 เป็น 1390
แถบสถานะกำลังใช้โซลูชัน proctoring ของ Examsoft ซึ่งมีการจดจำใบหน้าไบโอเมตริกซ์ จดหมายถึงศาลจากสหภาพเสรีภาพพลเรือนอเมริกัน (ACLU) กล่าวว่าผู้สอบอาหรับ-อเมริกันได้พยายามตรวจสอบตัวตนของเขาด้วยระบบสอบ 75 ครั้งและผู้หญิงผิวดำที่กำลังสอบกำลังส่องแสงที่ใบหน้าของเธอโดยตรง
แถบของรัฐตอบว่าการละเมิดการสอบใด ๆ จะถูกกำหนดผ่านการตรวจสอบโดยอย่างน้อยสอง proctors มนุษย์และผู้ตรวจสอบบาร์ของรัฐสองคน
ACLU ยังแนะนำว่าซอฟต์แวร์สามารถละเมิดพระราชบัญญัติความเป็นส่วนตัวของผู้บริโภคแคลิฟอร์เนียได้
บริการ proctoring biometric ส่วนใหญ่ใช้การจดจำใบหน้าแม้ว่า TypingDNA จะเปิดตัวโซลูชันขึ้นอยู่กับการพิมพ์ชีวภาพเมื่อต้นปีนี้
หัวข้อบทความ
ความแม่นยำ-อัลกอริทึม-การระบุไบโอเมตริกซ์-การจับคู่ไบโอเมตริกซ์-การวิจัยไบโอเมตริกซ์-การทดสอบไบโอเมตริกซ์-อคติไบโอเมตริกซ์-ไบโอเมตริกซ์-การจดจำใบหน้า-แฟร์เฟซ
