หน้ากากที่เข้าใจผิดว่าเป็นเทปพันท่อนักวิจัยทดลองเพื่อลดอคติของมนุษย์ในชีวภาพ

การโต้เถียงการรับรู้ใบหน้าไบโอเมตริกซ์มักจะมีอคตินักวิจัยบางคนเชื่อว่าการแทรกแซงของมนุษย์สามารถแก้ปัญหาได้ อย่างไรก็ตามมนุษย์ยังสามารถลำเอียงได้เชื่อGeorgia Tech College of Computingปริญญาเอก ศิษย์เก่าSamira Samadiผู้ที่โต้แย้งการทดลองของมนุษย์-วิชาชีพควรได้รับการพิจารณาก่อนที่จะสรุปว่าการแทรกแซงของมนุษย์เป็นกระสุนเงินในการแก้ข้อ จำกัด ซอฟต์แวร์

“ มนุษย์มีอคติตัวเองดังนั้นคุณจะแก้ไขปัญหาอคติกับมนุษย์ได้อย่างไร” Samadi บอกกับมหาวิทยาลัย “ มันอาจทำให้แย่ลง”

อยากรู้อยากเห็นว่าผู้ประเมินของมนุษย์จะทำให้กระบวนการยุติธรรมหรือมีอคติมากกว่านั้น Samadi ได้รับการคัดเลือกให้ผู้ใช้สำหรับการศึกษาผู้ใช้มนุษย์ เธอสอนพวกเขาเกี่ยวกับระบบการจดจำใบหน้าและวิธีการตัดสินใจเกี่ยวกับความแม่นยำของระบบ

“ เราพยายามเลียนแบบสถานการณ์จริงในโลก แต่นั่นทำให้ผู้ใช้มีความซับซ้อนมากขึ้น” Samadi กล่าว

การทดลองยืนยันความยากลำบากในการค้นหาชุดข้อมูลที่เหมาะสมด้วยภาพที่มาจากจริยธรรมซึ่งจะไม่แนะนำอคติในการศึกษา การวิจัยถูกตีพิมพ์ในบทความที่เรียกว่ามนุษย์ในวงไม่เพียงพอ: ความต้องการการทดลองของมนุษย์ในการจดจำใบหน้า-

อันคนที่มีความสำคัญศึกษาการวิเคราะห์อัลกอริทึมซอฟต์แวร์ 189 แห่งที่พัฒนาโดย บริษัท 99 แห่งพบว่าโอกาสที่ใบหน้าของเอเชียและแอฟริกันอเมริกันจะได้รับการยอมรับอย่างไม่ถูกต้องในหลายกรณีสูงกว่า 10 ถึง 100 เท่าแม้ว่าบางคนจะพบว่ามีความแตกต่างทางประชากรที่“ ตรวจไม่พบ”

แผนกวิทยาการคอมพิวเตอร์ของมหาวิทยาลัยเดอร์แฮมยังทำงานเกี่ยวกับนักบินที่จะลดอคติในเทคโนโลยีการจดจำใบหน้าที่ได้ถูกทำให้เพดานปากหนังสือพิมพ์นักศึกษาอิสระของมหาวิทยาลัย เมื่อเดือนที่แล้วนักศึกษาปริญญาเอก Seyma Yucer-Tektas และ Samet Akçayร่วมกับสมาชิกในทีมงานดร. Noura al Moubayed และศาสตราจารย์ Toby Breckon นำเสนองานวิจัยของพวกเขาซึ่งลดอคติทางเชื้อชาติลงหนึ่งเปอร์เซ็นต์และความแม่นยำทางชาติพันธุ์ที่ดีขึ้น ในการเข้าถึงผลลัพธ์เหล่านี้ทีมใช้ชุดข้อมูลสังเคราะห์ที่มีคุณสมบัติใบหน้าและเชื้อชาติที่หลากหลายและมุ่งเน้นไปที่การระบุคุณสมบัติที่สูงขึ้น

เครื่องมือ AI ที่พัฒนาโดย Google, IBM และ Microsoft นั้นมีความแม่นยำน้อยกว่าที่คาดไว้เขียนIlinca Barsan ผู้อำนวยการวิทยาศาสตร์ข้อมูล Wunderman Thompson Data ตัวอย่างเช่น Google Cloud Vision API ไม่รู้จักฉลาก PPE หรือ MASK และรูปภาพที่จำแนกประเภท แท็กที่น่าประหลาดใจที่ตรวจพบ ได้แก่ ปาก, เทปพันท่อ, หมวกและเครื่องแต่งกาย “ หน้ากาก” ถูกระบุด้วยความมั่นใจ 74 เปอร์เซ็นต์ การจดจำภาพของ IBM Watson นั้นค่อนข้างคลุมเครือ Barsan เขียนในขณะที่ Microsoft Azure Cognitive Services Vision Vision Vision“ แสดงอคติทางเพศที่ไร้เดียงสามากขึ้น”

“ มันเป็นเรื่องที่น่าสนใจแม้ว่าจะไม่น่าแปลกใจที่จะตระหนักว่าสำหรับบริการทั้งสามที่ผ่านการทดสอบเราก็สะดุดกับอคติทางเพศเมื่อพยายามแก้ปัญหาสิ่งที่ดูเหมือนเป็นปัญหาการเรียนรู้ของเครื่องจักรที่ค่อนข้างง่าย” Barsan กล่าวสรุป “ สิ่งนี้เกิดขึ้นกับคู่แข่งทั้งสามคนแม้จะมีเทคโนโลยีและภารกิจที่แตกต่างกันอย่างมากมายไม่น่าแปลกใจเพราะปัญหานั้นขยายออกไปเพียงแค่ บริษัท เดียวหรือรุ่นคอมพิวเตอร์วิสัยทัศน์เดียว”

ซอฟต์แวร์ใหม่ที่จะลดความแตกต่างด้านประชากรศาสตร์ในประสิทธิภาพไบโอเมตริกซ์ใบหน้าก็มาถึงตลาด API การจดจำใบหน้าที่เป็นกลางเชื้อชาติพัฒนาโดย API ที่พัฒนาโดยเทคโนโลยี AIHมีให้บริการอย่างเป็นทางการใน Microsoft Azure Marketplace ในเดือนมีนาคม บริษัท แคนาดาเข้าร่วมMicrosoft Partners Network (MPN) และประกาศแผนการเปิดตัวทั่วโลกของการรับรู้ใบหน้า-AS-A-Service (FRAAS)

“ ภารกิจของเทคโนโลยี AIH คือการนำการเปลี่ยนแปลงเชิงบวกมาสู่ปัญหาในโลกแห่งความเป็นจริงที่เผชิญกับแอพพลิเคชั่น AI รวมถึงการจัดการกับอคติทางเชื้อชาติในการรับรู้ใบหน้า” เบ็นซูซีโอโอของเทคโนโลยี AIH กล่าวในแถลงการณ์ที่เตรียมไว้ “ ด้วยการเข้าถึงทั่วโลกของตลาด Azure และระบบนิเวศที่ให้การสนับสนุนเทคโนโลยี AIH อยู่ในตำแหน่งที่ดีในการสร้างผลกระทบที่มีความหมายกับอัลกอริทึมการรับรู้ใบหน้าที่ครอบคลุมทางเชื้อชาติของเรา”