กะพริบตาCEO Mary Haskett กล่าวว่าชีวภาพหรือ AI ใด ๆ ที่อาจนำไปสู่การเฝ้าระวังมวลควรถูก จำกัด เนื่องจากอัลกอริทึมมีความแม่นยำสูงแม้สำหรับผู้ที่มีสีผิวที่แตกต่างกันการประเมินของการทดสอบผู้ขายการจดจำใบหน้าของ NIST (FRVT) ส่วนที่ 3 รายงานผลกระทบด้านประชากรศาสตร์ Haskett กล่าวว่าควรใช้อัลกอริทึมเพื่อสนับสนุนการตัดสินใจของมนุษย์และไม่แทนที่
Nist's 2019รายงานทดสอบอัลกอริธึมไบโอเมตริกซ์ที่แตกต่างกันมากกว่า 200 อัลกอริทึมการค้นหาการเปลี่ยนแปลงอย่างมากในประสิทธิภาพระหว่างการแสดงที่ดีที่สุดและแย่ที่สุด ในขณะที่บางคนทดสอบโดย NIST มีอัตราความผิดพลาดสูงมากอัลกอริทึมที่มีประสิทธิภาพที่ดีที่สุดมีความแตกต่างทางประชากรที่ผิดพลาดในเชิงบวกที่ไม่สามารถตรวจจับได้
ของ nistงานได้รับแรงบันดาลใจจากการศึกษาผลกระทบทางประชากรในการจดจำใบหน้าล่าสุดและอัลกอริทึมการประมาณเพศ การหาปริมาณความแม่นยำของอัลกอริทึมการจดจำใบหน้าสำหรับกลุ่มประชากรที่กำหนดโดยเพศอายุและเชื้อชาติหรือประเทศเกิด
การจับคู่ไบโอเมตริกซ์คำนวณความน่าจะเป็นที่ใบหน้าทั้งสองเหมือนกันซึ่งหมายความว่าไม่สามารถมีความมั่นใจได้ 100 เปอร์เซ็นต์ (แม้ว่าคุณจะมีมากกว่า 99.999 เปอร์เซ็นต์) อัลกอริทึมที่มีประสิทธิภาพดีที่สุดในการทดสอบของ NIST มีความแตกต่างเชิงลบที่ผิดพลาดที่ไม่สำคัญ: 0.49 เปอร์เซ็นต์สำหรับผู้หญิงผิวดำและ 0.85 สำหรับเพศชายผิวขาว การรายงานเกี่ยวกับการศึกษาครั้งนี้ได้รับการทำให้เข้าใจผิดอย่างไรก็ตามตาม Haskett เนื่องจากความแตกต่างระหว่างอัตราบวกที่ผิดพลาดของอัลกอริทึมการจดจำใบหน้าในผู้หญิงผิวดำและเพศชายสีขาวเป็นเพียง 0.002 เปอร์เซ็นต์
อัลกอริทึมที่แม่นยำสูงมีความแตกต่างทางประชากรที่เล็กกว่าแม้ว่าอัลกอริทึมการจดจำใบหน้าร่วมสมัยจะแสดงความแตกต่างทางประชากรของขนาดต่างๆ ในเดือนกุมภาพันธ์ข้อกล่าวหาการแสดงที่ไม่ดีสำหรับผู้หญิงและผู้คนที่มีสีสันโดยระบบชีวภาพใบหน้าส่งผลให้เกิดการดำเนินการทางกฎหมายโดยคณะกรรมการทนายความเพื่อสิทธิพลเมืองภายใต้กฎหมาย
อัลกอริทึมของ Blink Identity ตกอยู่ในหมวดหมู่“ ประสิทธิภาพที่ดีที่สุด” ในการทดสอบ NIST ตามที่ บริษัท โดยไม่มีข้อบ่งชี้ถึงอคติทางประชากรที่สำคัญในทางปฏิบัติ NIST เปรียบเทียบอัลกอริทึมในสภาพแวดล้อมที่ควบคุมโดยใช้ชุดของคู่ที่จับคู่ใบหน้าเป็นชุดข้อมูลในขณะที่ในทางปฏิบัติการพิจารณาด้านสิ่งแวดล้อมเช่นมุมท่าทางแสงและการแสดงออกที่เปลี่ยนแปลงมีผลกระทบอย่างมีนัยสำคัญต่อความแม่นยำเช่นกัน
ความคิดริเริ่มของมหาวิทยาลัยเท็กซัสมีวัตถุประสงค์เพื่อจัดการกับอคติทางประชากรใน AI สร้างความตระหนักรู้
รหัส^shift เป็นใหม่ห้องปฏิบัติการวิทยาศาสตร์ข้อมูลที่ Texas A&M University ได้รับการพัฒนาเพื่อช่วยลดช่องว่างระหว่างระบบและผู้คนกำจัดอคติจากเทคโนโลยีในกระบวนการ เริ่มแรกสร้างขึ้นเพื่อสร้างความตระหนักผ่านการวิจัยและการศึกษาเมื่อโลกกลายเป็นอัตโนมัติและใช้เครื่องจักรและระบบในการตัดสินใจ
“ Code^Shift พยายามเปลี่ยนความคิดของเราเกี่ยวกับโลกของรหัสหรือการเขียนโค้ดในแง่ของวิธีที่เราสามารถนึกถึงข้อมูลในวงกว้างมากขึ้นในแง่ของความเท่าเทียมการรักษาทางสังคมฟิวเจอร์สและการเปลี่ยนแปลงที่ครอบคลุมจำนวนมากการบาดเจ็บและความรุนแรงจำนวนมากได้เกิดขึ้น Ramasubramanian
Ramasubramanian ตระหนักถึงอคติของระบบอัตโนมัติเมื่อจากแอพพลิเคชั่นเช่น faucets อัตโนมัติที่จะไม่รู้สึกถึงมือของเธอ เมื่อทำงานจากระยะไกลในช่วง COVID-19 ด้วยซอฟต์แวร์การรู้จำเสียงพูดไม่เข้าใจสำเนียงและการซูมของเธอล้มเหลวในการทำงานกับผมและสีผิวของเธอ
ในเดือนมีนาคมผลการวิจัยนำเสนอในเทศกาล Mozilla แนะนำว่าโปรแกรม Bug Bountyสามารถนำไปใช้เพื่อตรวจจับอคติอัลกอริทึมในชีวภาพ
Code^Shift จะพยายามเผชิญหน้ากับปัญหานี้โดยใช้รูปแบบการวิจัยร่วมกันซึ่งรวมถึงผู้เชี่ยวชาญด้าน Texas A&M ในด้านสังคมศาสตร์วิทยาศาสตร์ข้อมูลวิศวกรรมและสาขาอื่น ๆ อีกมากมาย ผู้เชี่ยวชาญจะทำงานร่วมกันเพื่อขยายความเข้าใจสาธารณะของอคติในการเรียนรู้ของเครื่องจักรและปัญญาประดิษฐ์
Ramasubramanian แนะนำว่าในการสร้างระบบรวมวิศวกรจำเป็นต้องรวมข้อมูลตัวแทนจากประชากรและกลุ่มสังคมทั้งหมดซึ่งสามารถช่วยอัลกอริทึมการจดจำใบหน้าได้เรียนรู้ที่จะรับรู้ผู้คนจากภูมิหลังทางชาติพันธุ์มากขึ้น “ สำหรับฉันเราควรเป็นผู้นำในการคิดเกี่ยวกับจริยธรรมสังคมสุขภาพและผลกระทบอื่น ๆ ของข้อมูล”
วิศวกรไม่จำเป็นต้องร่วมมือกับนักวิทยาศาสตร์สังคมแล้วซึ่งเป็นที่ที่รหัส^Shift เข้ามา การตั้งคำถามเกี่ยวกับความรับผิดชอบในวิธีการสร้างระบบที่สามารถเข้าถึงข้อมูลและวิธีการแบ่งปัน
หัวข้อบทความ
ความแม่นยำ-AI-การระบุไบโอเมตริกซ์-อคติไบโอเมตริกซ์-ไบโอเมตริกซ์-กะพริบตา-การจดจำใบหน้า-ระเบียบข้อบังคับ-การวิจัยและพัฒนา
