ชุมชนปัญญาประดิษฐ์จำเป็นต้องเริ่มพัฒนาคำศัพท์เพื่อกำหนดและอธิบายถึงอันตรายที่เทคโนโลยีสามารถทำให้เกิดขึ้นได้อย่างชัดเจนพอดคาสต์ Twiml AI-
พอดคาสต์เกี่ยวกับ“ วิธีการตรวจสอบภายนอกกำลังเปลี่ยนภูมิทัศน์การรับรู้ใบหน้ากับ Deb Raji” ซึ่งจัดทำโดย Sam Charrington ผู้ถามเกี่ยวกับการกำเนิดของการตรวจสอบ Raji และเพื่อนร่วมงานได้ดำเนินการเกี่ยวกับระบบการรับรู้ใบหน้าไบโอเมตริกซ์การตอบสนองของอุตสาหกรรมและวิธีการทางจริยธรรมไปข้างหน้า
ราจิอธิบายการเดินทางของเธอผ่านทางวิชาการและการฝึกงานด้วยความขุ่นมัวเพื่อรับสาเหตุของอคติอัลกอริทึมและเชื่อมต่อกับ Joy Buolamwini หลังจากดู Tedtalk ของเธอ งาน Raji ทำกับผู้อื่นในชุมชนได้รับความโดดเด่นด้วยเฉดสีทางเพศและแนวคิดที่เกิดขึ้นจากโครงการนั้นและโครงการที่คล้ายกันได้ถูกสร้างขึ้นในการปฏิบัติทางวิศวกรรมที่ Google
การรับรู้ใบหน้ามีลักษณะเป็น“ เทคโนโลยีที่ยังไม่บรรลุนิติภาวะมาก” ซึ่งถูกเปิดเผยว่าไม่ได้ทำงานโดยการศึกษาเฉดสีเพศ
“ มันเกิดจากความปรารถนานี้ที่จะ…ระบุปัญหาในวิธีที่สอดคล้องกันและสื่อสารในวิธีที่สอดคล้องกัน” ราจีกล่าวถึงการทำงานก่อนกำหนดปัญหาของความแตกต่างทางประชากรในการรับรู้ใบหน้า
ราจิชนะรางวัลนวัตกรรม AIพร้อมกับ Buolamwini และ Timnit Gebru สำหรับงานของพวกเขาในปี 2562
ปัญหานั้นแทบจะไม่เข้าใจเลยเมื่อราจิเริ่มนำมันขึ้นมาเป็นครั้งแรกและแม้แต่รู้ว่าดูเหมือนว่าจะเข้าใจได้อย่างเต็มที่ในชุมชนอย่างที่ Raji กล่าวYann Lecun และ Gerus- Raji แสดงความคิดเห็นว่าการเชื่อมต่อระหว่างความพยายามในการวิจัยเช่น Lecun และผลิตภัณฑ์ควรชัดเจนสำหรับเขา ราจิยังแพนการมองข้ามสิ่งที่เธอเรียกว่า "ความประมาทเลินเล่อขั้นตอน" โดยไม่รวมถึงคนที่มีสีในการทดสอบ
การเป็นตัวแทนไม่ได้หมายความว่ากลุ่มข้อมูลการฝึกอบรมจะสะท้อนให้เห็นถึงสังคมที่มีการปรับใช้ในสังคม Raji ตั้งข้อสังเกตว่าหาก 10 เปอร์เซ็นต์ของผู้คนในพื้นที่บางแห่งมีผิวสีเข้มจากนั้นรุ่นที่ใช้นั้นจำเป็นต้องได้รับการฝึกฝนด้วยภาพของคนที่มีผิวคล้ำมากพอ
Raji ยังพูดคุยระหว่างพอดคาสต์เกี่ยวกับวิธีการทดสอบการติดตามผลแสดงให้เห็นถึงความต้องการแรงกดดันที่กำหนดเป้าหมายเพื่อบังคับให้ บริษัท ต่างๆจัดการกับช่องว่างในประสิทธิภาพทางประชากรศาสตร์ของพวกเขา ข้อ จำกัด ของการตรวจสอบยังได้รับการสำรวจในการสนทนา
ความจำเป็นที่จะต้องมีข้อมูลเฉพาะสำหรับการใช้งานถูกกล่าวถึงในบริบทของการรับรู้ใบหน้าสำหรับการใช้กฎหมายการใช้งานและแนะนำว่าควรนำออกจากตลาดในกรณีที่ไม่มีข้อมูลนั้น
Raji กล่าวว่าเนื่องจากระบบการจดจำใบหน้าบางอย่างได้ลดลงหรือกำจัดความไม่เสมอภาคทางประชากรและปัญหาความแม่นยำอื่น ๆ ปัญหาของการวางอาวุธได้กลายเป็นเรื่องเร่งด่วนมากขึ้น เธอตั้งข้อสังเกตว่าผู้คนระวังข้อมูลลายนิ้วมือมากกว่าภาพใบหน้า นอกเหนือจากการใช้งานในทางที่ผิดโดยการบังคับใช้กฎหมายบางครั้งก็ไม่รู้เกี่ยวกับเทคโนโลยีและบางครั้งจงใจ Raji กล่าวว่าอาวุธของเทคโนโลยีในการปรับใช้เช่นAtlantic Plaza Towers ในบรูคลิน
ปัญหาอคติเปิดเผยถึงความซับซ้อนของปัญหาและตำนานที่การจดจำใบหน้าเป็นเหมือนเวทมนตร์ราจิแนะนำ ในขณะที่มีการสนทนาที่จำเป็น แต่ไม่ควรใช้เทคโนโลยีตาม Raji เพื่อให้ปลอดภัย Raji แนะนำว่ามาตรฐานทางเทคนิคเช่นที่จัดทำโดย NIST จำเป็นต้องได้รับการเสริมกับผู้อื่นซึ่งรวมถึงการพิจารณาจริยธรรมเช่นที่ผลิตหรือพูดคุยโดย ISO, IEEE และWEF-
แม้ว่า Raji จะนำเสนอปัญหาที่เธอเกี่ยวข้องอย่างเป็นระบบ แต่เธอก็ยอมรับความเมตตากรุณาของอัลกอริทึมการรับรู้ใบหน้า
“ ไม่มีใครคุกคามตัวกรอง Snapchat ของคุณ” ราจิกล่าว
หัวข้อบทความ
ความแม่นยำ-AI-AI Now Institute-ปัญญาประดิษฐ์-การระบุไบโอเมตริกซ์-อคติไบโอเมตริกซ์-ไบโอเมตริกซ์-การวิจัยทางชีวภาพ-จริยธรรม-การจดจำใบหน้า
