มาตรฐานสำหรับการวัดอคติ biometrics ใบหน้าการลดอคติ AI ต้องการขอบเขตที่กว้างขึ้น

2022-03-22

ร่างการทำงานของมาตรฐานสำหรับการวัดอคติใน Face Biometrics ได้รับการตีพิมพ์โดย International Standards Organization (ISO) และ International Electrotechnical Commission (IEC) เช่นเดียวกับสถาบันมาตรฐานและเทคโนโลยีแห่งชาติของสหรัฐอเมริกา (NIST) ปรับปรุงการทำงานเกี่ยวกับอคติในปัญญาประดิษฐ์ในวงกว้างมากขึ้น

ISO/IEC 19795-10 'เทคโนโลยีสารสนเทศ - การทดสอบและการรายงานประสิทธิภาพไบโอเมตริกซ์ - ส่วนที่ 10: การวัดปริมาณการเปลี่ยนแปลงประสิทธิภาพของระบบไบโอเมตริกซ์ในกลุ่มประชากร'มาตรฐานที่อยู่ระหว่างการพัฒนาได้รับการพัฒนาเป็นเวลาสองปีตามโพสต์ LinkedIn จากสิ่งอำนวยความสะดวกทดสอบแมริแลนด์นักวิทยาศาสตร์ข้อมูลหลักจอห์นฮาวเวิร์ด-

ความคิดเห็นเกี่ยวกับร่างจะครบกำหนดภายในวันที่ 6 พฤษภาคม

การทดสอบอคติ (หรือความแตกต่างทางประชากร) ในการจดจำใบหน้านั้นมีข้อ จำกัด เป็นส่วนใหญ่การทดสอบโดย NIST-

NIST ให้เหตุผลสำหรับวิธี 'Soci-technical'

เอกสารนโยบายทางเทคนิคที่ได้รับการปรับปรุงจาก NIST แนะนำให้ขยายขอบเขตของการค้นหาแหล่งที่มาของอคติในระบบ AI องค์กรกล่าวว่าสามารถช่วยปรับปรุงการระบุอคติ AI และลดอันตรายได้

เวอร์ชันที่แก้ไขของ NIST Special Publication 1270 'สู่มาตรฐานสำหรับการระบุและจัดการอคติในปัญญาประดิษฐ์'ขยายขอบเขตนั้นให้ใช้ในระบบบริบททางสังคม AI นั้นถูกนำไปใช้โดยใช้คำอุปมาอุปมัยภูเขาน้ำแข็ง อคติทางสถิติและการคำนวณประกอบขึ้นเป็นเพียงส่วนที่มองเห็นได้ 'เหนือน้ำ' ของภูเขาน้ำแข็งที่มีอคติของมนุษย์และอคติระบบที่สร้างส่วนใหญ่ด้านล่าง

“ หากเราต้องพัฒนาระบบ AI ที่น่าเชื่อถือเราจำเป็นต้องพิจารณาปัจจัยทั้งหมดที่สามารถลดความไว้วางใจของสาธารณชนใน AI ได้” ผู้ตรวจสอบหลักของ NIST กล่าวสำหรับ AI Bias Reva Schwartz หนึ่งในผู้เขียนรายงานกล่าว “ ปัจจัยเหล่านี้หลายอย่างนอกเหนือไปจากเทคโนโลยีที่มีต่อผลกระทบของเทคโนโลยีและความคิดเห็นที่เราได้รับจากผู้คนและองค์กรที่หลากหลายเน้นประเด็นนี้”

ผู้เขียนยืนยันว่าจำเป็นต้องใช้วิธี 'ทางสังคมเทคนิค' เพื่อลดอคติใน AI ได้อย่างมีประสิทธิภาพ

ร่างเริ่มต้นถูกเผยแพร่ปีที่แล้วและระบุแปดองค์ประกอบที่นำไปสู่การทำให้ AI น่าเชื่อถือ