สมาคมเพื่อการป้องกันเสรีภาพกล่าวหาว่าระบบไม่น่าเชื่อถือ เพื่อเป็นหลักฐานเขาจะได้รับการยอมรับ 28 อาชญากร ... เมื่อพวกเขาเป็นสมาชิกของรัฐสภาคองเกรสแห่งสหรัฐอเมริกา อเมซอนปกป้องตัวเองโดยการตั้งคำถามการทดสอบ
อเมซอนไม่พอใจที่จะเป็นยักษ์อีคอมเมิร์ซหรือที่พักในคลาวด์ เขายังได้พัฒนาซอฟต์แวร์การวิเคราะห์ภาพอัจฉริยะที่เปิดให้ทุกคนการลาดตระเวนใช้โดยเฉพาะอย่างยิ่งโดยตำรวจอเมริกันและหน่วยงานรัฐบาลเพื่อระบุและติดตามผู้คนที่ถ่ายทำด้วยกล้องวงจรปิดวิดีโอ ฟังก์ชั่นการจดจำใบหน้าของระบบนี้เป็นเรื่องของการโต้เถียงอย่างรุนแรงในสหรัฐอเมริกา
นักการเมืองที่มีสีมากเกินไป
มันถูกกล่าวหาโดยACLU (สหภาพเสรีภาพพลเมืองอเมริกัน) ไม่น่าเชื่อถือ- หลังส่งรูปถ่ายของสมาชิกทุกคนของสภาคองเกรส Rekognition เปรียบเทียบกับฐานข้อมูลอาชญากรรม และแปลกใจซอฟต์แวร์ที่จัดตั้งขึ้นอย่างผิด 28 การติดต่อ ตัวแทนชาวอเมริกันที่ระบุอย่างไม่เหมาะสม ได้แก่ ทั้งชายและหญิงพรรครีพับลิกันและพรรคเดโมแครตทุกวัยและทุกภูมิภาคของสหรัฐอเมริกา ในทางกลับกันผู้คนที่มีสีซึ่งเป็นตัวแทนเพียง 20% ของสมาชิกสภาคองเกรสปรากฏใน 40% ของผลลัพธ์
สำหรับ ACLU ข้อสรุปนั้นชัดเจน: ซอฟต์แวร์รับรู้ถึงผู้ชายที่มีสีน้อยกว่าคนผิวขาวและมีอคติ เมื่อพิจารณาถึงผลกระทบที่ร้ายแรงต่อชีวิตของคนที่อาจสงสัยว่าต้องสงสัยว่าจะต้องมีการประกาศพักชำระหนี้ในการใช้การจดจำใบหน้าโดยตำรวจ เธออ้างถึงตัวอย่างกรณีในโอเรกอนที่ Amazon Rekognition ถูกนำไปใช้ประโยชน์เพื่อเปรียบเทียบใบหน้าของผู้คนกับฐานข้อมูลภาพถ่ายตำรวจตุลาการโดยไม่ต้องมีการอภิปรายสาธารณะก่อน
"ไม่ควรใช้เทคโนโลยีนี้ก่อนที่จะนำความเสียหายมาพิจารณาอย่างเต็มที่และมีการใช้มาตรการที่จำเป็นทั้งหมดเพื่อป้องกันไม่ให้เกิดการทำร้ายชุมชนที่มีช่องโหว่"เราสามารถอ่านเว็บไซต์ทางการของสมาคมได้ไหม
ควรใช้ Rekognition ด้วยอัตราความแม่นยำ 99%
ที่การตอบสนองของอเมซอนรวดเร็ว บริษัท โดยรวมวิพากษ์วิจารณ์ ACLU ว่าไม่มีรายละเอียดเกี่ยวกับด้านล่างของการทดลอง โดยเฉพาะอย่างยิ่งเธอชี้ให้เห็นว่าการแข่งขันที่ติดตั้งใน PIN จะเป็นผลบวกที่ผิดพลาดที่ได้รับจากพารามิเตอร์ที่ไม่ดี อัตราความน่าเชื่อถือที่ร้องขอเพียง 80% ยอมรับได้ว่าจะรับรู้ถึงคนดังหรือสมาชิกในครอบครัวในภาพถ่ายของแอปพลิเคชัน แต่อเมซอนแนะนำให้คำนึงถึงอัตราความแม่นยำเพียง 99% เมื่อพูดถึงการระบุคนในสถานการณ์ที่ละเอียดอ่อน ด้วยการทำซ้ำการทดสอบ ACLU และขึ้นอยู่กับอัตรา 99%นี้ Amazon อ้างว่าไม่มีข้อผิดพลาด แต่เขาไม่ได้แสดงหลักฐานใด ๆ เกี่ยวกับการตรวจสอบการตรวจสอบครั้งนี้
นอกจากนี้กลุ่มเน้นว่าซอฟต์แวร์ของมันเป็นเพียงความช่วยเหลือในการตัดสินใจและไม่สามารถพิสูจน์ได้ดีที่สุด มันขึ้นอยู่กับมนุษย์ที่ใช้ตัวเลือกเสมอ ในที่สุด บริษัท ก็เสียใจที่ไม่ทราบข้อมูลเพิ่มเติมเกี่ยวกับฐานข้อมูลการเปรียบเทียบที่ใช้โดย ACLU ซึ่งสามารถบิดเบือนและนำไปสู่การตอบสนองที่ผิดพลาดเหล่านี้ อเมซอนสรุปโดยการระลึกว่ามันปรับปรุงระบบอย่างต่อเนื่องและเครื่องจักรยังคงเป็นวิธีที่ดีที่สุดในการระบุบุคคลความน่าเชื่อถือของผู้เห็นเหตุการณ์ต่ำกว่าซอฟต์แวร์
ในข้อโต้แย้งของอเมซอนเราจะคัดค้านคำพูดแรก ไม่มีอะไรจำเป็นสำหรับช่วงเวลาที่ผู้ใช้ใช้ซอฟต์แวร์โดยการผลักดันอัตราความน่าเชื่อถือจนถึงขณะนี้ นี่อาจเป็นสิ่งที่ บริษัท พูดถึงด้วยข้อความลึกลับนี้ในตอนท้ายของการสื่อสาร"เราไม่ควรโยนเตาอบเพราะอุณหภูมิสามารถปรับได้ไม่ดีและเผาพิซซ่า อย่างไรก็ตามมันจะสมเหตุสมผลสำหรับรัฐบาลที่จะแทรกแซงและระบุอุณหภูมิ (หรือระดับความน่าเชื่อถือ) ที่องค์กรบังคับใช้กฎหมายต้องเคารพในการทำงานด้านความปลอดภัยของพวกเขา”- อเมซอนที่เรียกร้องให้มีการแทรกแซงของรัฐบาลนั่นไม่ใช่เรื่องธรรมดา
ชายผิวขาวเป็นที่รู้จักที่ดีกว่า
อย่างไรก็ตามสิ่งนี้จะไม่เปลี่ยนแปลงปัญหาพื้นฐานมากขึ้น เมื่อเดือนกุมภาพันธ์ที่ผ่านมากการศึกษา MIT Media Labพิสูจน์แล้วว่าการรับรู้ใบหน้ามีประสิทธิภาพมากขึ้นสำหรับคนผิวขาวทดสอบเครื่องมือของ Microsoft, Google, Face ++ และ IBM เพียงเพราะคอมพิวเตอร์ได้รับการฝึกฝนในการจดจำผู้ชายผิวขาวมากกว่าผู้หญิงหรือคนผิวดำ ฐานข้อมูลการเรียนรู้มีอคติและวันนี้ประสิทธิภาพของซอฟต์แวร์จะเสีย ดังนั้นเราจึงรอการศึกษาเชิงวิชาการที่เข้มงวดมากขึ้นเกี่ยวกับ rekognition เพื่อตรวจสอบว่ามันไม่ได้ให้ผลลัพธ์ที่มุ่งเน้นโดยไม่รู้ตัว
นี่ไม่ใช่ครั้งแรกที่ซอฟต์แวร์นี้เป็นเรื่องของการโต้เถียง เมื่อเดือนมิถุนายนที่ผ่านมาพนักงานได้ส่งคำร้องไปยัง Jeff Bezos ซึ่งไม่พอใจว่า AWS Cloud Services และเครื่องมือการจดจำใบหน้าที่มีชื่อเสียงนี้สามารถใช้งานได้โดยการบริหารของทรัมป์เพื่อติดตามผู้อพยพทางอ้อม ผู้ถือหุ้นและสมาคมสิทธิพลเมืองยังอ้างว่าอเมซอนหยุดทำธุรกิจด้วยเหตุผลเหล่านี้กับรัฐบาล
🔴อย่าพลาดข่าว 01NET ใด ๆ ติดตามเราที่Google NewsETWhatsapp-
