Microsoft กำลังตอบสนองต่อการรับรู้ที่เพิ่มขึ้นว่าอคติสามารถฝังอยู่ในซอฟต์แวร์โดยไม่ได้ตั้งใจโดยการพัฒนาเครื่องมือในการตรวจจับอคติโดยอัตโนมัติในอัลกอริทึม AIทบทวนเทคโนโลยี MITรายงาน
การวิจัยได้แสดงให้เห็นถึงอัตราความแม่นยำที่แตกต่างกันอย่างมากสำหรับอัลกอริทึมการจดจำใบหน้าชั้นนำเมื่อนำไปใช้กับประชากรที่แตกต่างกันและด้วยอัลกอริทึมชี้นำการพิจารณาคดีทางอาญาและการตั้งค่าสถานะบุคคลเป็นภัยคุกคามความปลอดภัยที่อาจเกิดขึ้นสหรัฐอเมริกาคณะอนุกรรมการบ้านได้ตรวจสอบความหมายของปัญหาสำหรับการยอมรับรัฐบาลของ AI
“ สิ่งต่าง ๆ เช่นความโปร่งใสความเข้าใจและคำอธิบายนั้นใหม่พอสำหรับสาขาที่พวกเราไม่กี่คนที่มีประสบการณ์เพียงพอที่จะรู้ทุกสิ่งที่เราควรมองหาและวิธีการที่อคติอาจแฝงตัวอยู่ในแบบจำลองของเรา” นักวิจัยอาวุโสของ Microsoft Rich Caruna บอกกับบทวิจารณ์
Caruna เป็นส่วนหนึ่งของทีมที่สร้างแดชบอร์ดตรวจจับอคติแม้ว่าเขาจะเตือนไม่ให้มีการพึ่งพาซอฟต์แวร์ตำรวจด้วยซอฟต์แวร์
“ แน่นอนว่าเราไม่สามารถคาดหวังความสมบูรณ์แบบได้ - มีอคติที่ตรวจไม่พบหรือไม่สามารถกำจัดได้ - เป้าหมายคือการทำเช่นเดียวกับที่เราสามารถทำได้” Caruna กล่าว “ สิ่งที่สำคัญที่สุดที่ บริษัท สามารถทำได้ในตอนนี้คือการให้ความรู้แก่พนักงานของพวกเขาเพื่อให้พวกเขาตระหนักถึงวิธีการมากมายที่อคติสามารถเกิดขึ้นและแสดงตัวเองและสร้างเครื่องมือเพื่อให้โมเดลเข้าใจง่ายขึ้นและตรวจจับได้ง่ายขึ้น”
Facebook ยังเปิดตัวเครื่องมือประเมินความเป็นธรรมการไหลของความยุติธรรมในการประชุมนักพัฒนาเมื่อต้นเดือนที่ผ่านมา
หัวข้อบทความ
ความแม่นยำ-ปัญญาประดิษฐ์-อคติไบโอเมตริกซ์-ไบโอเมตริกซ์-การจดจำใบหน้า-Microsoft
