ตามล่องรองศาสตราจารย์ที่ศูนย์การศึกษาสงครามที่มหาวิทยาลัยเซาเทิร์นเดนมาร์กปัญญาประดิษฐ์ในระบบอาวุธอิสระ (กฎหมาย) และการใช้งานทางทหารอื่น ๆ “ น่าจะมีอคติอัลกอริทึม” ซึ่งอาจมี“ ผลกระทบร้ายแรง”
“ อคติสามารถนำไปสู่การทำร้ายทางกฎหมายและทางศีลธรรมในฐานะผู้คนในกลุ่มอายุเพศหรือโทนสีผิวอาจได้รับการประเมินว่าเป็นนักสู้อย่างผิดกฎหมาย” ลิ่มในชิ้นส่วนซึ่งมีพื้นฐานมาจากการนำเสนอของเธอต่อกลุ่มผู้เชี่ยวชาญของรัฐบาล (GGE) ในระบบอาวุธอิสระที่ร้ายแรง กล่าวอีกนัยหนึ่งข้อผิดพลาดในการระบุไบโอเมตริกซ์เนื่องจากอคติอัลกอริทึมอาจนำไปสู่พลเรือนที่ถูกประหารชีวิตโดยเสียงพึมพำ
มันเป็นความคิดที่หนาวเหน็บถัดจากวิทยานิพนธ์หลักของโบเดอ'ทหาร AI มีเพศหรือไม่?'รวมถึงบทสรุปนโยบายที่เผยแพร่โดย Observer Research Foundation และแคมเปญเพื่อหยุดหุ่นยนต์นักฆ่าปัญหาของอคติยังไม่ได้รับการคุ้มครองตามความยาว”
อย่างไรก็ตามด้วยเหตุผลสองสามข้อ Bode เชื่อว่าเราสามารถตั้งสมมติฐานเกี่ยวกับอคติใน AI สำหรับกรณีการใช้งานทางทหาร “ ศักยภาพที่เป็นนวัตกรรมส่วนใหญ่ในเทคโนโลยี AI มาจาก บริษัท เทคโนโลยีพลเรือนที่ร่วมมือกับนักแสดงทหารมากขึ้นเรื่อย ๆ ” เธอเขียน “ โดยพื้นฐานแล้วประเภทของเทคนิคที่ใช้ในพลเรือนและการประยุกต์ใช้ AIเช่นการเรียนรู้ของเครื่องจักรนั้นเหมือนกันและจะอยู่ภายใต้ข้อกังวลที่คล้ายกันเกี่ยวกับอคติ”
อคติข้ามสเปกตรัมของ AI ทหาร
ปัญหาหนึ่งคืออคติไม่ได้พูดปัญหาหนึ่งเลย - แต่ฝังอยู่ในช่วงต่าง ๆ ทั่ววงจรชีวิตของแบบจำลองอัลกอริทึม Bode ระบุจุดอคติที่อาจเกิดขึ้นได้สามจุด: ในชุดข้อมูลที่ใช้สำหรับการฝึกอบรม ในตัวเลือกของมนุษย์ที่ทำในระหว่างกระบวนการออกแบบและพัฒนาซึ่งสามารถอบเข้าสู่ระบบได้ และในวิธีการใช้ระบบ AI
“ เทคโนโลยี AI ได้รับความหมายและฟังก์ชั่นใหม่ ๆ - เช่นเดียวกับอคติที่อาจเกิดขึ้นจากการถูกใช้ซ้ำ ๆ และในทางที่แพร่หลายมากขึ้น” Bode เขียน “ สิ่งนี้สามารถเกิดขึ้นได้ในสองวิธี: ประการแรกเพียงแค่ใช้ระบบที่มีเทคโนโลยี AI, อคติใด ๆ ที่มีอยู่เหล่านี้จะถูกขยายอย่างที่สองคนจะดำเนินการกับผลลัพธ์ที่ระบบ AI ผลิต” เธอชี้ไปที่อคติอัตโนมัติ“ แนวโน้มที่มนุษย์จะต้องพึ่งพาระบบอัตโนมัติมากเกินไปและเลื่อนการส่งออกที่เกิดจากเทคโนโลยีดังกล่าว” เป็นปัญหาเฉพาะในโดเมนทหาร
ลางอ้างอิงการวิจัยโดย Joy Buolamwini และ Timnit Gebru ผู้ตรวจสอบสามประเภทการวิเคราะห์ใบหน้าซอฟต์แวร์และพบว่าใบหน้าของผู้ชายทั้งสามคนได้รับการยอมรับอย่างแม่นยำมากกว่าผู้หญิงและโดยทั่วไปแล้วจะดีกว่าในการจดจำคนที่มีโทนสีผิวที่เบากว่า
“ การคิดเกี่ยวกับอคติขีดเส้นใต้อีกครั้งเทคโนโลยีนั้นไม่เป็นกลาง” Bode กล่าว “ เทคโนโลยีเป็น 'ผลิตภัณฑ์แห่งเวลา' พวกเขาสะท้อนสังคมของเรา” เนื่องจากอคตินั้นมีอยู่ในสังคมจึงมีอยู่ใน AI โบเดอร์เรียกโดยเฉพาะอย่างยิ่งการขาดความหลากหลายในอาชีพต้นกำเนิดและวัฒนธรรมการทำงานที่ระบบ AI งอก “ แม้ในขั้นตอนการออกแบบ” เธอเขียนว่า“ กลยุทธ์การบรรเทาผลกระทบก็จะต้องเป็นกระแสหลักเกี่ยวกับวิธีการที่โปรแกรมเมอร์ AI คิดเกี่ยวกับพารามิเตอร์การสร้างแบบจำลอง (เริ่มต้น) ที่นี่มันสำคัญที่จะต้องพิจารณา บริษัท เทคโนโลยีที่มีอำนาจเหนือการลงทุนและการพัฒนาเทคโนโลยี AIและความสนใจเฉพาะของพวกเขาเนื่องจากความสนใจเหล่านี้มีแนวโน้มที่จะมีผลกระทบโดยตรงต่อตัวเลือกที่เกิดขึ้นในขั้นตอนการออกแบบ”
ในระยะสั้น“ การแก้ปัญหาทางเทคนิคจะไม่เพียงพอที่จะแก้ไขอคติ”
Bode สรุปผลงานของเธอโดยเน้นอีกครั้งว่า“ ปัญหาของอคติอัลกอริทึมแสดงให้เห็นว่าเราควรคิดถึงเทคโนโลยี AI ที่ไม่ได้แยกออกจากการตัดสินของมนุษย์ อย่างที่เคยเป็นมาเราเป็นเทคโนโลยีของเรา - และเทคโนโลยีของเราคือเรา
หัวข้อบทความ
AI-อัลกอริทึม-อคติไบโอเมตริกซ์-ไบโอเมตริกซ์-การจดจำใบหน้า-การเรียนรู้ของเครื่องจักร-ทหาร
