Microsoft ได้ปรับปรุงความสามารถของเทคโนโลยีการจดจำใบหน้าเพื่อรับรู้เพศของคนที่มีโทนสีผิวที่เข้มขึ้นลดอัตราความผิดพลาดมากถึง 20 เท่าตามการประกาศในกโพสต์บล็อก-
อัตราความผิดพลาดสำหรับผู้หญิงทุกคนลดลงเก้าครั้ง บริษัท กล่าวว่าลดความแตกต่างของความแม่นยำในกลุ่มประชากรที่แตกต่างกันอย่างมีนัยสำคัญสำหรับ API ใบหน้าซึ่งส่งผ่านบริการองค์ความรู้ Azure ทีม API ของ Microsoft ได้ขยายและแก้ไขชุดข้อมูลที่ใช้สำหรับการฝึกอบรมและการเปรียบเทียบได้เปิดตัวความพยายามในการรวบรวมข้อมูลใหม่เพื่อปรับปรุงความหลากหลายของข้อมูลการฝึกอบรมและปรับปรุงตัวจําแนกเพื่อให้ได้ผลลัพธ์ที่แม่นยำยิ่งขึ้น
นักวิจัย MIT Media Lab Joy Buolamwini และนักวิจัย Microsoft Timnit Gebru พบว่าระบบการจดจำใบหน้าชั้นนำจาก Megvii, Microsoft และ IBM ส่งคืนผลลัพธ์ด้วยความแตกต่างที่สำคัญในด้านประชากรศาสตร์ที่แตกต่างกันใน Aการศึกษาที่เผยแพร่เมื่อต้นปีนี้-
“ เรามีการสนทนาเกี่ยวกับวิธีที่แตกต่างกันในการตรวจจับอคติและดำเนินการความเป็นธรรมเราได้พูดคุยเกี่ยวกับความพยายามในการรวบรวมข้อมูลเพื่อกระจายข้อมูลการฝึกอบรมเราได้พูดคุยเกี่ยวกับกลยุทธ์ที่แตกต่างกันเพื่อทดสอบระบบของเราภายในก่อนที่เราจะปรับใช้” Hanna Wallach นักวิจัยอาวุโสของ Microsoft กล่าว
Microsoft ยังทำงานบนเครื่องมือสำหรับวิศวกรในการตรวจจับโดยอัตโนมัติอคติในอัลกอริทึม AI-
อุตสาหกรรมเทคโนโลยีถูกบังคับให้ทำงานเพื่อลดอคติในอัลกอริทึมโดยการรับรู้ของประชาชนที่เพิ่มขึ้นซึ่งส่งผลให้กลุ่มสิทธิมนุษยชนเรียกร้องให้มีกรอบทางจริยธรรมตามกฎหมายสิทธิมนุษยชนระหว่างประเทศนำไปใช้กับระบบการเรียนรู้ของเครื่อง, และการพิจารณาเรื่องนี้โดยคณะอนุกรรมการเทคโนโลยีสารสนเทศของคณะกรรมการกำกับดูแลบ้านและคณะกรรมการปฏิรูปรัฐบาล
