ปัญหาในการใช้การจดจำใบหน้าของตำรวจไม่ได้อยู่ที่ไบโอเมตริกซ์

วิชาเอกการสืบสวนโดยหนังสือพิมพ์วอชิงตันโพสต์เปิดเผยว่า ตำรวจในสหรัฐฯ มักใช้การจดจำใบหน้าเป็นพื้นฐานในการจับกุมเพียงอย่างเดียว ซึ่งขัดต่อนโยบายภายในที่กำหนดให้เจ้าหน้าที่ต้องมีสาเหตุที่เป็นไปได้และหลักฐานยืนยัน

ผลการค้นพบของเดอะโพสต์ยังเผยให้เห็นถึงกรณีผู้ถูกจับกุมอย่างมิชอบจำนวน 2 กรณีซึ่งไม่ได้รับการรายงานก่อนหน้านี้หลังจากถูกระบุตัวด้วยเน้นข้อบกพร่องสำคัญประการหนึ่งที่อาจเกิดขึ้นในเทคโนโลยีไบโอเมตริกซ์สำหรับกรณีใช้งานด้านการบังคับใช้กฎหมาย: ตำรวจต้องได้รับความไว้วางใจให้ใช้ข้อมูลดังกล่าวอย่างมีจริยธรรม

และยัง. “หน่วยงานบังคับใช้กฎหมายทั่วประเทศกำลังใช้เครื่องมือในลักษณะที่พวกเขาไม่เคยตั้งใจจะใช้” โพสต์กล่าว “เป็นทางลัดในการค้นหาและจับกุมผู้ต้องสงสัยโดยไม่มีหลักฐานอื่น”

นักข่าว Douglas MacMillan, David Ovalle และ Aaron Schaffer ระบุว่า “75 แผนกที่ใช้การจดจำใบหน้า โดย 40 แผนกได้แชร์บันทึกคดีที่นำไปสู่การจับกุม ในจำนวนดังกล่าว มี 17 รายที่ไม่สามารถให้รายละเอียดเพียงพอที่จะแยกแยะได้ว่าเจ้าหน้าที่พยายามยืนยันหรือไม่-

ในบรรดาแผนกที่เหลืออีก 23 แผนกที่มีบันทึกรายละเอียดเกี่ยวกับพวกเขาพบว่า “15 หน่วยงานใน 12 รัฐจับกุมผู้ต้องสงสัยที่ระบุตัวผ่านการจับคู่ AI โดยไม่มีหลักฐานอิสระใด ๆ ที่เชื่อมโยงพวกเขากับอาชญากรรม”

นอกจากนี้ “เจ้าหน้าที่บังคับใช้กฎหมายบางคนที่ใช้เทคโนโลยีนี้ดูเหมือนจะละทิ้งมาตรฐานการรักษาแบบดั้งเดิมและถือว่าคำแนะนำซอฟต์แวร์เป็นข้อเท็จจริง”

'อคติของระบบอัตโนมัติ' เป็นปัญหา; งานตำรวจก็หละหลวมเช่นกัน

รายงานดังกล่าวได้แจกแจงความล้มเหลวของตำรวจทั้ง 8 แห่งที่ทราบกันดีอยู่แล้วซึ่งรวมถึงการไม่ตรวจสอบข้อแก้ตัวและการเพิกเฉยต่อลักษณะทางกายภาพของผู้ต้องสงสัยอย่างโจ่งแจ้ง (อย่างหลังในกรณีของหญิงตั้งครรภ์) แนวโน้มดังกล่าวมีความชัดเจน และโพสต์แนะนำว่าตัวอย่างต่างๆ “อาจเป็นเพียงตัวอย่างเล็กๆ น้อยๆ ของปัญหา”

ผลงานชิ้นนี้เข้าใกล้อันตรายจนพลาดประเด็นของตัวเองในการอ้างคำพูดของ Katie Kinsey หัวหน้าเจ้าหน้าที่ของ Policing Project ที่ NYU School of Law ซึ่งตั้งข้อสังเกตว่า“ดำเนินการได้เกือบสมบูรณ์แบบในการทดสอบในห้องปฏิบัติการโดยใช้ภาพถ่ายเปรียบเทียบที่ชัดเจน” แต่ไม่ได้อยู่ภายใต้ “การทดสอบความถูกต้องของเทคโนโลยีโดยอิสระในโลกแห่งความเป็นจริงว่าตำรวจใช้งานอย่างไรโดยทั่วไป — ด้วยภาพจากกล้องวงจรปิดคุณภาพต่ำกว่าและเจ้าหน้าที่เลือกผู้สมัครหนึ่งคนจาก รายการการแข่งขันที่เป็นไปได้”

ด้วยเหตุนี้ Kinsey กล่าว จึงเป็นเรื่องยากที่จะทราบว่าซอฟต์แวร์ทำผิดพลาดบ่อยเพียงใด

แต่ความผิดของเธอกลับผิดที่ ตามที่การสืบสวนของ Post แสดงให้เห็น มันไม่ใช่ซึ่งปกติจะเข้าใจผิดแต่ตำรวจ รายงานบันทึกการวิจัยที่แสดงให้เห็นว่า “ผู้ที่ใช้เครื่องมือ AI สามารถยอมจำนนต่อ 'อคติด้านระบบอัตโนมัติ' ซึ่งเป็นแนวโน้มที่จะเชื่อการตัดสินใจของซอฟต์แวร์ที่มีประสิทธิภาพโดยสุ่มสี่สุ่มห้า โดยไม่สนใจความเสี่ยงและข้อจำกัดของซอฟต์แวร์ดังกล่าว”

หากมีสิ่งใดแสดงว่าซอฟต์แวร์ทำงานได้ดีเกินไป มีภาพผู้ต้องสงสัยที่หยาบกระด้างวิ่งผ่านสำหรับรายชื่อภาพถ่ายมีแนวโน้มสูงที่จะพบคนที่ดูเหมือนผู้ต้องสงสัยมาก ในกรณีนี้ Gary Wells นักจิตวิทยาจากมหาวิทยาลัยแห่งรัฐไอโอวา ซึ่งศึกษาการระบุตัวผู้เห็นเหตุการณ์ที่ผิดพลาด กล่าว เมื่อภาพเหล่านั้นแสดงให้เหยื่อเห็น พวกเขามีแนวโน้มที่จะสร้างบัตรประจำตัวสูง แม้ว่าจะเป็นเท็จก็ตาม

AI ร่างรายงานของตำรวจไม่ใช่ความคิดที่ดี: ACLU

การแก้ปัญหาขึ้นอยู่กับองค์ประกอบหลักเดียวกันที่สนับสนุนระบบนิเวศทั่วโลกที่ใหญ่ขึ้นของ: กฎระเบียบและความไว้วางใจ อย่างไรก็ตาม ใครเป็นคนควบคุมตำรวจ ยังเป็นคำถามที่นอกเหนือไปจากไบโอเมตริกซ์

ล่าสุดรายงานจาก ACLU ตั้งข้อสังเกตว่า “หน่วยงานตำรวจกำลังใช้ผลิตภัณฑ์ซอฟต์แวร์ที่ใช้ AI เพื่อร่างรายงานของตำรวจสำหรับเจ้าหน้าที่” – และกล่าวว่านั่นเป็นความคิดที่แย่มาก: “AI มีฟังก์ชั่นที่มีศักยภาพมากมาย แต่ไม่มีเหตุผลที่จะใช้มันเพื่อแทนที่การสร้าง บันทึกประสบการณ์ส่วนตัวของเจ้าหน้าที่”

องค์กรอื่นๆ ได้แสดงความกังวลเกี่ยวกับศักยภาพของการละเมิดสิทธิพลเมืองและสิทธิมนุษยชนรวมถึงการจดจำใบหน้าด้วยไบโอเมตริกซ์โดย DEA และ FBI

และรายงานของหน่วยงานร่วมของรัฐบาลกลางความยาว 137 หน้าซึ่งเผยแพร่ในเดือนนี้ นำเสนอผลกระทบแบบสองด้านของเทคโนโลยีไบโอเมตริกซ์ ตามกระทรวงความมั่นคงแห่งมาตุภูมิของสหรัฐอเมริกา (DHS) กระทรวงยุติธรรม (DOJ) และสำนักงานนโยบายวิทยาศาสตร์และเทคโนโลยีทำเนียบขาว

ในแต่ละกรณี เทคโนโลยีเป็นตัวช่วยในการตัดสินใจของมนุษย์ สำหรับมีมาตรฐาน การทดสอบ และการรับรองที่ควบคุมการใช้งาน การควบคุมพฤติกรรมของมนุษย์นั้นยากกว่ามาก โดยเฉพาะในผู้มีอำนาจ อัลกอริธึมมีข้อบกพร่อง แต่โดยทั่วไปแล้วสามารถคาดเดาได้ดีกว่ามนุษย์ และมีโอกาสน้อยที่จะข้ามขั้นตอนหนึ่งหรือสองขั้นตอนเมื่อเสรีภาพของใครบางคนตกอยู่ในอันตราย

หัวข้อบทความ

--------