อเมซอนบริการเว็บได้เปิดตัววิธีการประเมินอคติในอัลกอริทึมการจดจำใบหน้าโดยไม่ต้องใช้ป้ายกำกับข้อมูลประจำตัวที่มีคำอธิบายประกอบ
รายงานการวิจัยในหัวข้อที่ระบุโดยการตลาดโพสต์อธิบายวิธีการตรวจจับความไม่เท่าเทียมกันของประสิทธิภาพที่บ่งบอกถึงอคติ
วิธีการที่เรียกว่าการประเมินประสิทธิภาพแบบกึ่งผู้ดูแลสำหรับการจดจำใบหน้าหรือ SPE-FR รายงานว่าตรวจพบความไม่เท่าเทียมกันแม้ว่าข้อเท็จจริงที่ว่ามีเพียงการประเมินประสิทธิภาพของโมเดลตามข้อมูลจากกลุ่มประชากรที่แตกต่างกัน
SPE-FR สามารถสร้างแบบจำลองการประเมินความเอนเอียง“ มีประโยชน์มากขึ้นสำหรับผู้สร้างซอฟต์แวร์การจดจำใบหน้า” ตามบทความโพสต์
“ มันอาจเป็นประโยชน์อย่างยิ่งสำหรับ บริษัท และหน่วยงานก่อนที่จะมีการยอมรับระบบซึ่งอาจไม่สามารถประเมินประสิทธิภาพของระบบหรือตรวจจับอคติที่อาจเกิดขึ้นได้เนื่องจากพวกเขาไม่สามารถรวบรวมคำอธิบายประกอบข้อมูลประจำตัวที่เชื่อถือได้สำหรับข้อมูลของพวกเขา” ตามบทความ
ในการทดลองนักวิทยาศาสตร์ได้รับการฝึกอบรมแบบจำลองทางชีวภาพเกี่ยวกับข้อมูลที่ข้อมูลประชากรเฉพาะถูกซ่อนไว้โดยเฉพาะเพื่อสร้างอคติ รูปแบบการเรียนรู้ของเครื่องของ Amazon เห็นการเปลี่ยนแปลงประสิทธิภาพที่แตกต่างกันอย่างต่อเนื่องในชุดข้อมูลที่เปลี่ยนแปลงเหล่านี้
ในความเป็นจริง SPE-FR มีประสิทธิภาพเหนือกว่าการสอบเทียบแบบเบย์
“ SPE-FR สามารถนำไปใช้นอกชั้นวางกับรูปแบบการฝังใบหน้าที่หลากหลายพร้อมการออกแบบที่ล้ำสมัยและได้รับการฝึกฝนในชุดข้อมูลที่แตกต่างกัน” อ่านกระดาษ
เกตเวย์บริการไบโอเมตริกซ์ภายใต้การตรวจสอบข้อเท็จจริงในสหราชอาณาจักร
อคติไบโอเมตริกซ์ถูกกล่าวถึงในรายงานอื่นเช่นกันสิ่งนี้มุ่งเน้นไปที่การใช้งานที่เพิ่มขึ้นของเกตเวย์บริการไบโอเมตริกซ์ฮาร์ดแวร์และซอฟต์แวร์ลายนิ้วมือมือถือโดยกองกำลังตำรวจในสหราชอาณาจักรและนักบินที่ได้รับการยอมรับจากใบหน้าโดยตำรวจเซาธ์เวลส์
เกตเวย์ถูกนำไปใช้เป็นครั้งแรกในสหราชอาณาจักรในปี 2561 พวกเขาอนุญาตให้เจ้าหน้าที่ตำรวจสแกนสิ่งพิมพ์และเปรียบเทียบกับฐานข้อมูลตำรวจและการเข้าเมือง ที่รายงานล่าสุดโดยสิทธิพลเมืองสนับสนุนเครือข่ายความยุติธรรมทางเชื้อชาติและยอร์กเชียร์ต่อต้านการติดตามก่อนหน้านี้ 'หยุดการสแกนรายงานจากปีที่แล้ว
เอกสารขึ้นอยู่กับเสรีภาพในการตอบสนองข้อมูลจาก 35 หน่วยงานตำรวจ (สิบเอ็ดปฏิเสธที่จะตอบโดยอ้างว่าไม่มีเวลาและทรัพยากร)
เห็นโดยช่องว่างความยุติธรรมรายงานอ้างว่าเกตเวย์ไม่ได้ใช้อย่างเป็นไปตามวัตถุประสงค์โดยตำรวจ เจ้าหน้าที่สามารถเรียกร้องให้ใครก็ตามที่ส่งไปยังการสแกนไบโอเมตริกซ์หากพวกเขารู้สึกว่ามีคนก่ออาชญากรรมหรือโกหกเกี่ยวกับตัวตนของพวกเขา
รายงานแสดงให้เห็นว่าคนผิวดำมีแนวโน้มที่จะหยุดและสแกนทางชีวภาพมากกว่าคนผิวขาวสี่เท่า ชาวเอเชียมีแนวโน้มที่จะหยุดเป็นสองเท่า ผู้ชายมีแนวโน้มที่จะหยุดและสแกนมากกว่าผู้หญิงประมาณ 12 เท่า
สัดส่วนที่ไม่เท่ากันของการสืบค้นอาจทวีความรุนแรงขึ้นโดยอัลกอริทึมไบโอเมตริกซ์ที่ใช้ในตำรวจเซาท์เวลส์โปรแกรมการจดจำใบหน้าที่สิ้นสุดในปี 2020 กลุ่มผู้สนับสนุนโต้แย้ง
การศึกษาชี้ไปที่ข้อมูล NIST ตั้งแต่ปี 2562แสดงให้เห็นว่าอัลกอริทึมบางอย่างมีแนวโน้มที่จะระบุตัวตนของเอเชียสีดำหรือตะวันออกมากกว่า 10 ถึง 100 เท่า ไม่ใช่อัลกอริทึมทั้งหมดที่ประเมินอยู่ในการผลิตเชิงพาณิชย์อย่างไรก็ตามและอื่น ๆ พบว่ามีความแตกต่างที่มองไม่เห็นในการปฏิบัติงานระหว่างข้อมูลประชากรกระตุ้นมาตรฐานไบโอเมตริกซ์ NISTเฉพาะเจาะจงในการประเมินอคติ
หัวข้อบทความ
ความแม่นยำ-อเมซอน-เกตเวย์บริการไบโอเมตริกซ์-อคติไบโอเมตริกซ์-ไบโอเมตริกซ์-การวิจัยทางชีวภาพ-รหัสอาชญากร-การจดจำใบหน้า-ไบโอเมตริกซ์ลายนิ้วมือ-ตำรวจ
