Deborah Raji นักวิจัยในอัลกอริทึมอันตรายสำหรับมูลนิธิ Mozillaมีข้อเสนอแนะ bounties bounties สามารถใช้ในการจัดการกับอคติอัลกอริทึมในแอปพลิเคชันการจดจำใบหน้า
ผลการวิจัยถูกนำเสนอเมื่อต้นสัปดาห์นี้ในปีนี้เทศกาล Mozillaเหตุการณ์ที่สำรวจ Nexus ของ AI และอำนาจแรงงานความจริงและประเด็นสำคัญอื่น ๆ
การวิจัยของ Raji ได้ดำเนินการร่วมกับกลุ่มผู้สนับสนุนอัลกอริทึม Justice League(AJL) และวิเคราะห์ว่าสามารถปรับใช้โปรแกรม Bug Bounty เพื่อตรวจจับอคติอัลกอริทึมในชีวภาพได้อย่างไร
“ เมื่อคุณเปิดตัวซอฟต์แวร์และมีช่องโหว่บางอย่างที่ทำให้ซอฟต์แวร์มีแนวโน้มที่จะแฮ็คชุมชนความปลอดภัยของข้อมูลได้พัฒนาเครื่องมือต่าง ๆ มากมายที่พวกเขาสามารถใช้ในการตามล่าหาข้อบกพร่องเหล่านี้ได้” Raji กล่าวzdnetในการให้สัมภาษณ์
“ สิ่งเหล่านี้เป็นข้อกังวลที่เราสามารถเห็นความคล้ายคลึงกับปัญหาอคติในอัลกอริทึม” เธอกล่าวเสริม
อคติเป็นปัญหาที่เกิดขึ้นซ้ำใน Biometrics Face และเมื่อเดือนที่แล้วข้อกล่าวหาเกี่ยวกับการแสดงที่ลำเอียงโดยระบบไบโอเมตริกซ์ในการบังคับใช้กฎหมายและการศึกษาทำให้เกิดการดำเนินการทางกฎหมายในสหรัฐอเมริกา
จากการวิจัยของนักวิจัยประเด็นแรกที่จะแก้ไขในระหว่างการวิจัยคือคำจำกัดความของอันตรายอัลกอริทึมจากมุมมองการเขียนโปรแกรมเนื่องจากอคตินั้นเป็นเรื่องส่วนตัว
และแม้ว่าคำจำกัดความเหล่านี้จะถูกจัดตั้งขึ้นวิธีการตรวจจับอคติก็จะต้องปฏิบัติตามซึ่งอาจเป็นอันตรายต่อกระบวนการทางวิศวกรรมทั้งหมดที่อยู่เบื้องหลังผลิตภัณฑ์บางอย่าง
ปัญหานี้ Raji อธิบายว่าอาจได้รับการแก้ไขโดย บริษัท ที่ลงทุนในการพัฒนาเทคโนโลยีจริยธรรม ประชากรที่ได้รับผลกระทบจากอคติอัลกอริทึมในระบบไบโอเมตริกซ์และระบบอื่น ๆ มักจะไม่จ่ายเงินให้ลูกค้า
อย่างไรก็ตามกลุ่มวิจัยที่เพิ่มเข้ามาทางออกที่เป็นไปได้มากขึ้นคือผลักดันกฎระเบียบที่เข้มงวดขึ้นใน บริษัท
“ ฉันคิดว่าความร่วมมือจะเกิดขึ้นผ่านกฎระเบียบหรือแรงกดดันจากสาธารณะอย่างมาก” เธอกล่าวสรุป
หัวข้อบทความ
ความแม่นยำ-AI-อัลกอริทึม Justice League-อัลกอริทึม-อคติไบโอเมตริกซ์-ไบโอเมตริกซ์-การวิจัยทางชีวภาพ-Bug Bounty-จริยธรรม-การจดจำใบหน้า-ระเบียบข้อบังคับ
