กลุ่ม“ นักวิจัยที่เกี่ยวข้อง” 26 กลุ่มเรียกร้องให้อเมซอนเพื่อหยุดการให้บริการ rekognition ไบโอเมตริกซ์แก่หน่วยงานบังคับใช้กฎหมายในบล็อกโพสต์ที่ปฏิเสธการตอบสนองของ บริษัท ต่อการวิจารณ์โดยนักวิจัย MIT Joy Buolamwini และนักวิจัยจากมหาวิทยาลัยโตรอนโต Inioluwa Deborah Raji เกี่ยวกับอัตราความผิดพลาด
กลุ่มนักวิจัยร่วมลงนามโพสต์กลางรวมถึงผู้ชนะรางวัล Turing Award Yoshua Bengio เมื่อเร็ว ๆ นี้รวมถึงอดีตนักวิทยาศาสตร์หลักของ AWS Anima Anandkumar นักวิจัยจากมหาวิทยาลัยหลายแห่งและตัวแทนของ บริษัท อื่น ๆ ที่ใช้หรือจัดหาเทคโนโลยีการจดจำใบหน้ารวมถึง Google, Facebook และ Microsoft
Buolamwini บอกphys.orgว่าเธอไม่ได้คาดหวังว่าปฏิกิริยาของอเมซอนจะเป็น“ ศัตรู”
โพสต์ปกป้องคุณค่าของ Buolamwini และ Raji'sวิจัยและวิพากษ์วิจารณ์การตอบสนองของ Matt Wood และ Michael Punke ของ Amazon ในโพสต์บล็อกเพื่อแสดงรายละเอียดทางเทคนิคของงานที่บิดเบือนความจริง ยกตัวอย่างเช่นเทคโนโลยีการรับรู้ใบหน้าและการวิเคราะห์ใบหน้ามีความสัมพันธ์โดยตรงหรือโดยอ้อมระหว่างกันขึ้นอยู่กับวิธีการที่ใช้ตามโพสต์
“ (i) n ตรงกันข้ามกับการเรียกร้องของดร. วู้ดอคติที่พบในระบบหนึ่งเป็นสาเหตุของความกังวลในอีกกรณีหนึ่งโดยเฉพาะอย่างยิ่งในกรณีการใช้งานที่อาจส่งผลกระทบอย่างรุนแรงต่อชีวิตของผู้คนเช่นการบังคับใช้กฎหมาย”
นักวิจัยชี้ให้เห็นว่าการศึกษาดังกล่าวได้ดำเนินการในบริบทของการใช้งานของ Rekognition ด้วย API ที่เปิดเผยต่อสาธารณะและข้อมูลการศึกษาได้ถูกเปิดเผยต่อสาธารณะและการวิจัยจำลองโดยหลาย บริษัท พวกเขายังไม่ว่าจะมี“ ไม่มีกฎหมายหรือมาตรฐานเพื่อให้แน่ใจว่า rekognition ถูกนำมาใช้ในลักษณะที่ไม่ละเมิดเสรีภาพของพลเมือง”
ความแตกต่างระหว่างการรับรู้ใบหน้าและการวิเคราะห์ใบหน้าได้รับการสำรวจในแง่ของความแตกต่างระหว่างไบโอเมตริกซ์และไม่ใช่ไบโอเมตริกซ์โดยนักวิจัยยืนยันว่านักวิจัยการเรียนรู้ของเครื่องจักรพิจารณาการรับรู้ว่าเป็นการวิเคราะห์ประเภทเฉพาะซึ่งก็คือการวิเคราะห์ไบโอเมตริกซ์อย่างน้อยในบางกรณี ไม่ว่าบริการทั้งสองจะเกี่ยวข้องอย่างแม่นยำเพียงใดนักวิจัยกล่าวว่าหลักฐานของอคติในหนึ่งทำให้เกิดความกังวลที่ถูกต้องตามกฎหมายเกี่ยวกับอีกฝ่ายหนึ่ง นักวิจัยยังยืนยันว่าจุดที่ทำซ้ำโดยไม้และ Punke ว่าเทคโนโลยีไม่ได้ใช้ตามที่ตั้งใจไว้ในการศึกษาของ Raji และ Buolamwini นั้นไม่สำคัญเนื่องจากระบบจำเป็นต้องได้รับการทดสอบในสภาพโลกแห่งความเป็นจริงและสำนักงานนายอำเภอของวอชิงตันเคาน์ตี้ (WCSO)ไม่ปฏิบัติตามคำแนะนำของ Amazon สำหรับการใช้เกณฑ์ความมั่นใจ
นักวิจัยยังมุ่งมั่นที่จะอ้างว่าการวิพากษ์วิจารณ์ของอเมซอนถูกสร้างขึ้นโดยกลุ่มปฏิเสธที่จะสร้างข้อมูลการฝึกอบรมและพารามิเตอร์การทดสอบที่พวกเขาใช้และอเมซอนไม่พบความไม่เท่าเทียมกันในการจำแนกเพศตามชาติพันธุ์ ที่เฉดสีเพศเว็บไซต์โครงการทำให้ข้อมูลพร้อมใช้งานภายใต้ข้อตกลงการออกใบอนุญาตและ บริษัท ที่ไม่สามารถอนุญาตให้ใช้งานได้เช่น IBM และ Microsoft ได้สร้างผลลัพธ์ที่เปรียบเทียบได้โดยใช้แนวทางในกระดาษ นอกจากนี้ความไม่เพียงพอของเชื้อชาติซึ่งเป็นโครงสร้างทางสังคมสำหรับประเภทผิวซึ่งไม่สำคัญเป็นสิ่งสำคัญ
“ ดร. วู้ดขาดการรับรู้ถึงความแตกต่างที่สำคัญนี้ในขณะที่การทำให้เพียร์ได้ทบทวนการวิจัยที่ไม่อาจปฏิเสธได้ว่าเป็นแรงจูงใจที่ไม่อาจคาดเดาได้อย่างไม่อาจคาดเดาได้” นักวิจัยเขียน
อเมซอนได้แสดงการสนับสนุนระดับชาติเกี่ยวกับกฎหมายFramework สำหรับการจดจำใบหน้าและเมื่อเร็ว ๆ นี้ยังได้ปรับปรุงรูปแบบ rekognition สำหรับปรับปรุงความแม่นยำ- บริษัท ยังต้องเผชิญกับการต่อสู้ที่อาจเกิดขึ้นกับชนกลุ่มน้อยผู้ถือหุ้นมากกว่าการใช้ rekognition ของรัฐบาล
หัวข้อบทความ
อเมซอน-ปัญญาประดิษฐ์-ไบโอเมตริกซ์-การจดจำใบหน้า-ตำรวจ-ผู้ถือหุ้น-การเฝ้าระวัง
