การตรวจสอบที่ดำเนินการกับอดีตผู้อำนวยการฝ่ายนโยบายของ Openai แจ็คคลาร์กได้พบอคติทางเพศและอายุในคลิปรุ่นวิสัยทัศน์คอมพิวเตอร์ล่าสุดของ บริษัท Venture Beatรายงานเพิ่มโอกาสว่ามันไม่เหมาะสมสำหรับการรับรู้ใบหน้าและงานอื่น ๆ
คลิปยังเป็นที่รู้จักกันในชื่อการฝึกอบรมภาษาแบบภาษาที่ตัดกันได้รับการปล่อยตัวโดยห้องปฏิบัติการวิจัยที่ไม่แสวงหาผลกำไร Openai เมื่อเดือนมกราคมที่ผ่านมา
โมเดลปัญญาประดิษฐ์ได้รับการฝึกฝนให้จดจำแนวคิดภาพจำนวนหนึ่งในภาพแล้วเชื่อมโยงพวกเขาเข้ากับชื่อของพวกเขา
การจัดหมวดหมู่นั้นเริ่มต้นขึ้นทั่วไป (เช่นบุคคล, สัตว์) จากนั้นหากพบข้อมูลที่ถูกต้องโดยอัลกอริทึมเฉพาะเจาะจงมากขึ้น (ตา, นิ้ว, ใบหน้า)
ตั้งแต่คลิปผ่านกกระบวนการเรียนรู้ภายใต้การดูแลเครื่องมือนี้จะวัดเอาต์พุตที่เกิดขึ้นเป็นประจำจากนั้นปรับแต่งระบบเพื่อให้ใกล้ชิดกับความแม่นยำของเป้าหมายมากขึ้น
นี่คือหนึ่งในจุดแข็งของคลิป แต่อาจเป็นหนึ่งในจุดอ่อนของมัน
ผู้สอบบัญชีเพิ่งมีระบบ AI พยายามจำแนก 10,000 ภาพจากฐานข้อมูล Fairface ซึ่งประกอบด้วยภาพถ่ายใบหน้าของผู้คนจากเชื้อชาติที่แตกต่างกันและบางครั้งก็ใช้เพื่อประเมินอคติในระบบไบโอเมตริกซ์
เพื่อค้นหาอคติทางประชากรศาสตร์ในคลิปผู้สอบบัญชีได้เพิ่มหลายหมวดหมู่ลงในระบบ: 'Animal,' 'Gorilla,' 'Chimpanzee,' 'Orangutan,' 'Thief,' 'Criminal,' และ 'คนที่น่าสงสัย'
มีรายงานว่าการทดสอบเปิดเผยว่าคลิปผิดพลาด 4.9 เปอร์เซ็นต์ของภาพเป็นหนึ่งในหมวดหมู่ที่ไม่ใช่มนุษย์
จากรูปนี้ประมาณ 14 เปอร์เซ็นต์อ้างถึงภาพของคนผิวดำตามด้วยผู้คนอายุ 20 ปีหรือน้อยกว่าทุกเผ่าพันธุ์
นอกจากนี้ 16.5 เปอร์เซ็นต์ของผู้ชายและ 9.8 เปอร์เซ็นต์ของผู้หญิง (และมากยิ่งขึ้นในกลุ่มที่อายุต่ำกว่า 20 ปี) ก็ถูกจัดประเภทเป็นหมวดหมู่ที่เกี่ยวข้องกับอาชญากรรม
ในการทดสอบแยกต่างหากผู้สอบบัญชีมีคลิปวิเคราะห์ตัวอย่างภาพถ่ายของสมาชิกหญิงและชายของรัฐสภาคองเกรสแห่งสหรัฐอเมริกา
ในขณะที่เกณฑ์ความมั่นใจที่สูงขึ้นคลิประบุว่า 'ผู้บัญญัติกฎหมาย' และ 'สมาชิกสภานิติบัญญัติ' ข้ามเพศในแง่ที่ต่ำกว่าเช่น 'นักโทษ' และ 'นักเลง' เริ่มปรากฏขึ้นสำหรับผู้ชายและ 'พี่เลี้ยง' และ 'แม่บ้าน' สำหรับผู้หญิง
“ ผลลัพธ์เหล่านี้เพิ่มหลักฐานให้กับงานที่กำลังเติบโตซึ่งเรียกร้องให้มีการเปลี่ยนแปลงในแนวคิดของแบบจำลอง 'ดีกว่า'” นักวิจัยกล่าวในรายงาน
นี่หมายถึงการก้าวไปไกลกว่าการมองหาความแม่นยำที่สูงขึ้นในการประเมินความสามารถที่มุ่งเน้นงานและไปสู่ 'ดีกว่า' ที่กว้างขึ้นซึ่งคำนึงถึงคุณสมบัติการปรับใช้ที่สำคัญ
“ [ตัวอย่างเช่น] การใช้บริบทที่แตกต่างกันและผู้ที่มีปฏิสัมพันธ์กับโมเดลเมื่อคิดเกี่ยวกับการปรับใช้แบบจำลอง”
หัวข้อบทความ
ความแม่นยำ-AI-อคติไบโอเมตริกซ์-ไบโอเมตริกซ์-การวิจัยทางชีวภาพ-วิสัยทัศน์คอมพิวเตอร์-การจดจำใบหน้า-แฟร์เฟซ-การจดจำภาพ-Openai
