นักวิจัย MIT Media Lab Joy Buolamwini ได้ตอบสนองต่อการวิพากษ์วิจารณ์การศึกษาของเธอเกี่ยวกับอคติอัลกอริทึมในบริการที่นำเสนอโดย Amazon และ บริษัท อื่น ๆ ในขณะที่ความคิดเห็นจากตำรวจที่ใช้ Amazon Rekognition และประธานาธิบดี Microsoft Brad Smith มีแนวโน้มที่จะทำให้การอภิปรายสาธารณะรุนแรงขึ้นเกี่ยวกับการใช้การจดจำใบหน้าโดยการบังคับใช้กฎหมาย
“ เราไม่ได้ตั้งค่าหรือเราจะใช้เกณฑ์ความเชื่อมั่น” เจ้าหน้าที่ข้อมูลสาธารณะของวอชิงตันเคาน์ตี้ (WCSO)กิซโอดโดแม้จะมีการยืนยันของอเมซอนว่าลูกค้าบังคับใช้กฎหมายควรใช้เกณฑ์ 99 เปอร์เซ็นต์
Buolamwini กล่าวถึงหลาย ๆ จุดที่ทำโดยผู้จัดการทั่วไป AWS ของปัญญาประดิษฐ์ดร. แมตต์วู้ดเช่นเดียวกับการวิพากษ์วิจารณ์อื่น ๆโพสต์กลาง-
จุดแรกของการโต้แย้งคือการพูดถึงศักยภาพในการละเมิดที่แม้แต่เทคโนโลยีการจดจำใบหน้าที่แม่นยำที่สุดก็มี ศักยภาพนี้รวมถึงกรณีการใช้งานที่สนับสนุนการเฝ้าระวังจำนวนมากหรือการเลือกปฏิบัติของกลุ่มบางกลุ่ม Buolamwini ให้เหตุผล เพื่อยืนยันว่าผลการศึกษาทำให้เข้าใจผิดเพราะพวกเขาอยู่บนพื้นฐานของการวิเคราะห์ใบหน้ามากกว่าเทคโนโลยีการจดจำใบหน้าเธอเชื่อว่าระบบทั้งหมดที่วิเคราะห์ใบหน้าจำเป็นต้องได้รับการประเมินสำหรับอคติที่เป็นอันตรายและเทคโนโลยีทั้งสองเกี่ยวข้องอย่างมีนัยสำคัญมาก
“ ความล้มเหลวในการตรวจจับใบหน้าของสีในตอนแรกเป็นปัญหาสำคัญสำหรับการศึกษาเกี่ยวกับเทคโนโลยีการวิเคราะห์ใบหน้าเพราะบ่อยครั้งที่การศึกษาเหล่านี้มีพื้นฐานมาจากผลลัพธ์บนใบหน้าที่ตรวจพบ” เธอเขียน
การขาดข้อมูลเกี่ยวกับชุดข้อมูลที่ใช้โดย Amazon สำหรับการทดสอบอัลกอริทึมและโดยเฉพาะอย่างยิ่งการขาดข้อมูลเกี่ยวกับการสลายทางประชากรของมันป้องกันการประเมินอคติหรือขาดตาม Buolamwini นอกจากนี้เธอยังตั้งข้อสังเกตว่าในขณะที่คะแนนความมั่นใจจะเป็นประโยชน์พวกเขาสามารถระบุความมั่นใจในความเท็จและการวิจัย NIST แสดงให้เห็นว่าผู้ที่ใช้การวิเคราะห์ใบหน้ามักใช้การตั้งค่าเริ่มต้น การตอบสนองกล่าวว่าการยืนยันของอเมซอนว่าอัลกอริทึมใหม่ล่าสุดไม่ได้ใช้ละเว้นความจริงที่ว่าบางครั้งมีการใช้เวอร์ชันเก่าและ Buolamwini ถามว่าอัตราการรับเลี้ยงบุตรบุญธรรมสำหรับเวอร์ชันใหม่ ในการวิพากษ์วิจารณ์ว่าคุณลักษณะหรือการจำแนกประเภทเพศไม่เกี่ยวข้องกับการพิจารณาการบังคับใช้กฎหมายเธอชี้ให้เห็นว่าสามารถใช้เพื่อ จำกัด สาขาการค้นหาและ NIST ยังให้ข้อมูลเกี่ยวกับวิธีการใช้เทคโนโลยีโดยตำรวจ
เจ้าหน้าที่ข้อมูลสาธารณะของ WCSO ได้ชี้แจงในภายหลังว่า WCSO ใช้ rekognition สำหรับผู้นำเท่านั้นและการตัดสินใจนั้นเกิดขึ้นในที่สุดโดยเจ้าหน้าที่ Gizmodo ยังรายงานว่านักวิเคราะห์โครงการ Clackamas County Systems กล่าวในการติดต่อทางจดหมายสาธารณะผ่านการร้องขออิสระจากข้อมูลของ ACLU ที่ rekognition“ เอกสารนั้นขาดหรือผิดมาก”
ในแถลงการณ์โฆษกของอเมซอนเขียนว่าการใช้ WCSO ของ rekognition เป็นตัวอย่างที่ดีของความสามารถของเทคโนโลยีในการช่วยเหลือการบังคับใช้กฎหมายและมันดำเนินการตามกระบวนการเดียวกันกับที่เคยทำช้ากว่าและถูกต้องโดยเจ้าหน้าที่
“ ตั้งแต่เริ่มต้นสำนักงานของนายอำเภอวอชิงตันเคาน์ตี้มีความโปร่งใสอย่างเต็มที่เกี่ยวกับการใช้เทคโนโลยีและนโยบายที่ควบคุมมันและมีส่วนร่วมในการสนทนาอย่างต่อเนื่องกับสภานิติบัญญัติท้องถิ่นตัวแทนและประชาชนทั่วไปเกี่ยวกับการใช้งาน” คำแถลงของ บริษัท กล่าว “ ในช่วงสองปีของการใช้งานไม่เคยมีการร้องเรียนครั้งเดียวจากสาธารณชนและไม่มีปัญหาเกี่ยวกับเขตเลือกตั้งท้องถิ่นเกี่ยวกับการใช้ rekognition เราภูมิใจที่ได้ทำงานร่วมกับลูกค้าบังคับใช้กฎหมายทั้งหมดของเรารวมถึงสำนักงานนายอำเภอของวอชิงตันเคาน์ตี้
สมิ ธ ในขณะเดียวกันก็บอกBusiness Insiderการป้องกันไม่ให้หน่วยงานของรัฐใช้การจดจำใบหน้านั้นไปไกลเกินไป
“ ฉันไม่เข้าใจข้อโต้แย้งว่า บริษัท ควรหลีกเลี่ยงการออกใบอนุญาตทั้งหมดให้กับหน่วยงานของรัฐใด ๆ เพื่อจุดประสงค์ใด ๆ ” สมิ ธ กล่าว “ การห้ามใช้การใช้งานของรัฐบาลทั้งหมดอย่างชัดเจนไปไกลเกินไปและความเสี่ยงที่โหดร้ายในผลกระทบด้านมนุษยธรรม”
ในขณะที่เขาตระหนักถึงความเสี่ยงที่เกี่ยวข้องกับการใช้เทคโนโลยีโดยเฉพาะอย่างยิ่งโดยการบังคับใช้กฎหมายและรัฐบาลบางแห่งสมิ ธ อ้างถึงการใช้ในการวินิจฉัยโรคที่หายากเช่น Digeorge Syndrome นอกจากนี้เขายังหมายถึงการใช้การรับรู้ใบหน้าโดยตำรวจนิวเดลีเพื่อพยายามหาเด็กที่หายไป 5,000 คน แต่รายงานท้องถิ่นและศาลสูงของนิวเดลีได้เรียกประสิทธิภาพของโครงการให้เป็นคำถาม
หัวข้อบทความ
อเมซอน-ไบโอเมตริกซ์-การจดจำใบหน้า-วางทุ่น-Microsoft-กับ-ตำรวจ
