Google ได้ลบฉลากเพศออกจาก Cloud Vision API เพื่อหลีกเลี่ยงอคติหรือการจำแนกประเภทของผู้ที่มีบริการการวิเคราะห์ใบหน้าความกล้าหาญรายงาน
ฉลากใช้เพื่อจำแนกภาพเพื่อวัตถุประสงค์ในการฝึกอบรมอัลกอริทึม แต่พบว่าป้ายกำกับเพศไม่สอดคล้องกับหลักการ AI ของ Google
“ เนื่องจากเพศของบุคคลไม่สามารถอนุมานได้จากรูปลักษณ์เราได้ตัดสินใจที่จะลบป้ายกำกับเหล่านี้เพื่อให้สอดคล้องกับหลักการปัญญาประดิษฐ์ที่ Google โดยเฉพาะหลักการ #2: หลีกเลี่ยงการสร้างหรือเสริมอคติที่ไม่เป็นธรรมหลังจากวันนี้
ซอฟต์แวร์การวิเคราะห์ใบหน้าจัดประเภทเพศของผู้ชายทรานส์ประมาณ 30 เปอร์เซ็นต์ของเวลาและล้มเหลวในทุก ๆ กรณีเพื่อจำแนกเพศของคนที่ไม่ใช่ไบนารีหรือเพศควอตซ์-
นักวิจัยจากมหาวิทยาลัยโคโลราโดโบลเดอร์ตีพิมพ์บทความในการดำเนินการของ ACM เกี่ยวกับการมีปฏิสัมพันธ์ของมนุษย์กับคอมพิวเตอร์ในเดือนพฤศจิกายน 2019 มีชื่อว่า“ วิธีการที่คอมพิวเตอร์เห็นเพศ: การประเมินการจำแนกประเภทเพศในการวิเคราะห์ใบหน้าเชิงพาณิชย์และบริการการติดฉลากรูปภาพ” การวิเคราะห์ภาพมากกว่า 2,000 ภาพที่ถ่ายจาก Instragram ค้นหาผ่านแฮชแท็ก #Woman, #Man, #Transwoman, #Transman, #AgenderQueer และ #Nonbinary แสดงให้เห็นว่าชายและหญิง cisgender ถูกจัดประเภท 98 เปอร์เซ็นต์ของเวลาอย่างแม่นยำ
การวิจัยมีวัตถุประสงค์เพื่อให้ข้อมูลเชิงลึกเกี่ยวกับวิธีการดำเนินการทางเพศโดยบริการวิสัยทัศน์คอมพิวเตอร์และรายงานรวมถึงคำแนะนำสำหรับการออกแบบโครงสร้างพื้นฐานและชุดข้อมูลรวมถึงนโยบายเพื่อปรับปรุงการรวมเพศและลดอันตรายที่อาจเกิดขึ้น
ซอฟต์แวร์จาก Amazon, Clarifai, IBM, Face ++, Google, Kairos, Microsoft และ บริษัท อื่น ๆ อีกหลายแห่งได้รับการทดสอบและนักวิจัยเชื่อว่าพวกเขาพึ่งพาแบบแผนทางเพศที่ล้าสมัยอย่างต่อเนื่องเช่นมักจะจำแนกนักวิจัยชายที่มีผมยาวเป็นผู้หญิง
อเมซอนบันทึกไว้ในเว็บไซต์ว่า rekognition ไม่ได้มีไว้เพื่อใช้ในการจำแนกเพศของบุคคล แต่นักศึกษาวิจัยระดับปริญญาเอกมหาวิทยาลัยโคโลราโดโบลเดอร์โบลเดอร์มอร์แกน Klaus Scheuerman บันทึกว่าเป็นไปไม่ได้ที่ บริษัท จะได้รับการแนะนำตามที่แนะนำ
Google ไม่ได้จัดให้มีการจำแนกเพศ แต่ใช้ฉลากและ Scheuerman บอกกับ VentureBeat ว่า บริษัท พยายามแยกตัวออกจากการแข่งขัน
การศึกษาเมื่อปีที่แล้วที่เปิดเผยการวิจัยการรับรู้ใบหน้านั้นได้ดำเนินการในอดีตโดยเฉพาะกับความเข้าใจแบบไบนารีที่เข้มงวดของเพศ
หัวข้อบทความ
อัลกอริทึม-ปัญญาประดิษฐ์-อคติไบโอเมตริกซ์-ไบโอเมตริกซ์-การจดจำเพศ-Google-การฝึกอบรม
