ข้อกล่าวหาว่าอเมซอนให้เทคโนโลยีไบโอเมตริกซ์ใบหน้าที่ไม่ถูกต้องและขาดความกังวลที่เหมาะสมเกี่ยวกับความกังวลด้านจริยธรรมและสังคมเกี่ยวกับการรับรู้ใบหน้าไม่ได้มีพื้นฐานมาจากความเป็นจริง บริษัท กล่าวใน Aโพสต์บล็อกตอบสนองต่อบทความวิจัยและหนังสือพิมพ์ล่าสุด อเมซอนกล่าวว่าเป็น“ ตระหนักถึงความกังวลอย่างมากเกี่ยวกับเทคโนโลยีและ“ มีแรงจูงใจสูง” เพื่อปรับปรุงอย่างต่อเนื่องผู้จัดการทั่วไปของ AWS หน่วยสืบราชการลับประดิษฐ์ดร. แมตต์วูดเขียนเพื่อตอบสนองต่อการโต้เถียงที่เกิดจากการศึกษาติดตามผลอคติในอัลกอริทึมไบโอเมตริกซ์ใบหน้าต่างๆโดย Joy Buolamwini
การคัดค้านหลักของอเมซอนต่อการค้นพบคือการวิเคราะห์ใบหน้าถูกใช้เป็นพร็อกซีสำหรับการบันทึกข้อมูลของ Amazon แม้ว่าจะเป็นบริการแยกต่างหากที่ใช้เทคโนโลยีพื้นฐานและข้อมูลการฝึกอบรมที่แตกต่างกัน ไม้ยังตั้งข้อสังเกตว่าเกณฑ์ความเชื่อมั่นที่ใช้สำหรับการวิจัยไม่ได้รวมอยู่ในข้อมูลที่มีอยู่และระบุว่ากรณีการใช้งานสำหรับการวิเคราะห์ใบหน้ารวมถึงการค้นหาที่สร้างการจับคู่ที่เป็นไปได้ทั้งหมดในขณะที่สำหรับกรณีการใช้กฎหมายการใช้งานของ rekognition เกณฑ์ความเชื่อมั่นควรตั้งไว้ที่ 99 เปอร์เซ็นต์
อัลกอริทึม Rekognition เวอร์ชันใหม่เปิดตัวในเดือนพฤศจิกายนซึ่งไม่ใช่รุ่นที่ Buolamwini ใช้ตาม Wood ในการทดสอบภายใน 12,000 ภาพจากหกชาติพันธุ์ Amazon“ ไม่พบความแตกต่างอย่างมีนัยสำคัญในความแม่นยำเกี่ยวกับการจำแนกเพศ” บริษัท ยังจับคู่ภาพจากเว็บไซต์ของรัฐสภากับชุดข้อมูล Megaface กับ Rekognition ในระดับความเชื่อมั่น 99 เปอร์เซ็นต์และพบว่าไม่มีการแข่งขันที่ผิดพลาด
ไม้ยังกล่าวถึงปัญหาของความโปร่งใสและมาตรฐาน
“ นอกเหนือจากการทดสอบภายในของเราหรือผลลัพธ์ 'ในเวลาเดียว' เรามีความสนใจในการทำงานกับนักวิชาการในการสร้างชุดการทดสอบที่ได้มาตรฐานสำหรับการวิเคราะห์ใบหน้าและการรับรู้ใบหน้าและในการทำงานกับผู้กำหนดนโยบายเกี่ยวกับคำแนะนำและ/หรือการออกกฎหมายของการใช้งาน” Wood เขียน “ การทดสอบมาตรฐานที่มีอยู่หนึ่งครั้งจากสถาบันมาตรฐานและเทคโนโลยีแห่งชาติ (NIST) ช่วยให้แบบจำลองการมองเห็นคอมพิวเตอร์อย่างง่ายได้รับการทดสอบอย่างโดดเดี่ยวอย่างไรก็ตาม Amazon Rekognition ใช้แบบจำลองหลายแบบและระบบการประมวลผลข้อมูลภายใต้ประทุนซึ่งไม่สามารถทดสอบได้
ข้อเสนอแนะหรือความหมายใด ๆ ที่ Amazon ไม่ได้ปรับปรุงเทคโนโลยีนั้นเป็นเท็จตามโพสต์บล็อกเนื่องจาก Rekognition เวอร์ชันปัจจุบันคือการอัปเดตครั้งที่สี่ Wood ยังเขียนว่าข้อเสนอโดยตรงโดย Amazon เพื่อหารือเกี่ยวกับการอัปเดตและการทำงานร่วมกันในการทดสอบยังไม่ได้รับการยอมรับจากนักวิจัย
ความเสี่ยงที่อาจเกิดขึ้นที่เกี่ยวข้องกับการรับรู้ใบหน้าได้รับการยอมรับในโพสต์ซึ่งยังบอกว่า Amazon ระงับการใช้บริการของลูกค้าหากพบว่าพวกเขาใช้มันอย่างไร้ความรับผิดชอบหรือละเมิดสิทธิพลเมือง บริษัท ยังคงมองโลกในแง่ดีเกี่ยวกับประโยชน์ที่เทคโนโลยีสามารถส่งมอบได้เช่นการหาเด็กที่หายไปและให้การตรวจสอบการชำระเงินที่ดีขึ้นและชี้ให้เห็นว่ายังไม่มีรายงานการบังคับใช้กฎหมายในทางที่ผิดโดยการบังคับใช้กฎหมาย
“ คำตอบสำหรับความวิตกกังวลเกี่ยวกับเทคโนโลยีใหม่คือการไม่เรียกใช้ 'การทดสอบ' ไม่สอดคล้องกับวิธีการที่บริการได้รับการออกแบบให้ใช้และเพื่อขยายข้อสรุปที่ผิดและทำให้เข้าใจผิดของการทดสอบผ่านสื่อข่าว” วูดกล่าว “ เรากระตือรือร้นที่จะทำงานร่วมกับนักวิจัยนักวิชาการและลูกค้าเพื่อปรับปรุงอย่างต่อเนื่องเมื่อเราพัฒนาเทคโนโลยีที่สำคัญนี้”
ปัญหาที่เกี่ยวข้องกับการรับรู้ใบหน้าเป็นประเด็นร้อนแรงที่เวิร์ลเศรษฐกิจฟอรั่มใน Davosและ Microsoft ได้วางตำแหน่งตัวเองในฐานะแชมป์สาธารณะที่ดีด้วยการเรียกร้องให้มีกฎระเบียบของรัฐบาล
หัวข้อบทความ
อเมซอน-Amazon Rekognition-แนวทางปฏิบัติที่ดีที่สุด-การทดสอบไบโอเมตริกซ์-อคติไบโอเมตริกซ์-ไบโอเมตริกซ์-การจดจำใบหน้า-วางทุ่น-คนที่มีความสำคัญ
