คณะที่ปรึกษาทำเนียบขาวโหวตให้อนุมัติ 24 หน้ารายงานที่กำหนดการกระทำเฉพาะที่หน่วยงานบังคับใช้กฎหมายของรัฐบาลกลางทั้งหมดจะต้องดำเนินการเมื่อทำการทดสอบเครื่องมือ AI ในโลกแห่งความเป็นจริงในสาขารวมถึงเทคโนโลยีการจดจำใบหน้าที่เพิ่มขึ้นของ AI
รายงานและคำแนะนำของมันตอนนี้ไปที่ทำเนียบขาวและสำนักงานริเริ่ม AI แห่งชาติ วันที่ 23 ตุลาคมของประธานาธิบดีโจไบเดนคำสั่งผู้บริหารในการพัฒนาที่ปลอดภัยปลอดภัยและน่าเชื่อถือและการใช้ AI“ อย่างชัดเจนต้องมีการทดสอบในโลกแห่งความเป็นจริง” ของเครื่องมือ AI ปัญหาสำหรับหน่วยงานบังคับใช้กฎหมายของรัฐบาลกลางแม้ว่าจะไม่มีวิธีการที่ได้มาตรฐานในการทดสอบ AI ใน“ The Wild” คำแนะนำที่ได้รับอนุมัติจากคณะอนุกรรมการสำหรับการทดสอบฟิลด์ AI แก้ไขปัญหานั้น
รายงานที่นำมาใช้และผลการวิจัยยังกล่าวอีกว่า“ ผลลัพธ์ของการทดสอบในโลกแห่งความเป็นจริงควรได้รับการเปิดเผยต่อสาธารณะเพื่อให้พวกเขาอาจมีส่วนร่วมในการสนทนาที่ได้รับการบอกกล่าวและการอภิปรายเกี่ยวกับการใช้ AI ที่รับผิดชอบ”
นอกจากนี้คณะอนุกรรมการเรียกร้องให้มีการระดมทุนเพิ่มขึ้นเพื่อสนับสนุนการวิจัยในระดับการบังคับใช้กฎหมายของรัฐและท้องถิ่น
คณะอนุกรรมการบังคับใช้กฎหมายของคณะกรรมการที่ปรึกษาด้านปัญญาประดิษฐ์แห่งชาติ (Naiac) ซึ่งโหวตให้อนุมัติผลการวิจัยอธิบายว่า“ มีทรัพยากรน้อยมาก [มี] เพื่อช่วยนำทางอุตสาหกรรม AI หน่วยงานบังคับใช้กฎหมายและนักวิจัยอิสระผ่านกระบวนการทดสอบเครื่องมือ AI เมื่อพวกเขาใช้งานชั่วคราวในสาขานี้รายงานและชุดของคำแนะนำนี้ให้โครงสร้างพื้นฐานสำหรับการทดสอบภาคสนาม AI
รายงานได้จัดทำรายการตรวจสอบสำหรับหน่วยงานบังคับใช้กฎหมายเมื่อทำการทดสอบประสิทธิภาพของเครื่องมือ AI ก่อนที่จะนำมาใช้อย่างเต็มที่และรวมเข้ากับการใช้งานปกติ มันสังเคราะห์วิธีการทดสอบเชิงประจักษ์และปรับให้เข้ากับบริบทของการรักษาโดยใช้สถาบันมาตรฐานและเทคโนโลยีแห่งชาติ (NIST) AI การจัดการความเสี่ยง
โดยเฉพาะนักออกแบบการทดสอบภาคสนามจะได้รับคำแนะนำ“ ผ่านแนวทางปฏิบัติที่ดีที่สุดสำหรับขั้นตอน“ แผนที่และ“ วัด” ของการจัดการความเสี่ยง AI ขั้นตอน“ การจัดการ” ของการดำเนินการที่น่าเชื่อถือของ AI ไม่ได้กล่าวถึงในรายงานนี้“ แต่หลักฐานที่ได้จากการทดสอบภาคสนามจะช่วยให้ผู้มีอำนาจตัดสินใจตัดสินใจอย่างชาญฉลาดขณะที่พวกเขาจัดการและแลกเปลี่ยนความเสี่ยงและวัตถุประสงค์หลายอย่าง”
รายงานที่ได้รับการอนุมัติระบุว่า“ การทดสอบภาคสนามมีความสำคัญต่อรัฐบาลและความเข้าใจของสาธารณชนเกี่ยวกับแอปพลิเคชัน AI ในการบังคับใช้กฎหมายอย่างไรก็ตามการทดสอบภาคสนามที่ดีจะต้องได้รับการออกแบบอย่างรอบคอบเพื่อให้สอดคล้องกับบริบทความต้องการและข้อ จำกัด ในทางปฏิบัติของแอปพลิเคชัน AI โดยเฉพาะ
Jane Bambauer ประธานคณะอนุกรรมการ NAIAC ซึ่งอนุมัติมาตรการกล่าวว่าการค้นพบและคำแนะนำของรายงานแสดงให้เห็นถึง“ การทำซ้ำครั้งเดียวและไม่เคยมี [คือ] วิธีเดียวของการทำความเข้าใจว่า AI ทำหน้าที่ในสนามได้อย่างไร”
Bambauer ชี้ให้เห็นว่ามันเป็น“ ความคิดที่ค่อนข้างเร็วในการทดสอบ AI ในสนาม” และขั้นตอนที่ได้รับการอนุมัติจากคณะอนุกรรมการอย่างแน่นอนสามารถและน่าจะ“ ปรับปรุง”
“ การใช้ AI อย่างรับผิดชอบในการบังคับใช้กฎหมายกำหนดให้นักพัฒนา AI ฝึกอบรมทดสอบและตรวจสอบเครื่องมือ AI ของพวกเขาเพื่อให้แน่ใจว่าผลลัพธ์ของเครื่องมือทำนายนั้นมีความแม่นยำเพียงพอไม่ปฏิบัติตามสิทธิการเคารพและคุ้มค่า” รายงานที่นำมาใช้
รายงานชี้ให้เห็นว่า“ เมื่อหน่วยงานบังคับใช้กฎหมายใช้เทคโนโลยีใหม่พวกเขามักจะต้องพึ่งพาการทดสอบที่ดำเนินการภายใต้เงื่อนไขที่ค่อนข้างปลอดเชื้อ” และพวกเขา“ อาจกังวลอย่างสมเหตุสมผลว่าการใช้เครื่องมือโดยเฉพาะในบริบทการดำเนินงานของพวกเขา
รายงานระบุว่า“ การทดสอบที่ดำเนินการโดยผู้ผลิตเครื่องมือ AI บางครั้งยังไม่ได้รับการตรวจสอบอย่างอิสระและสิ่งนี้สามารถสร้างการมองโลกในแง่ดีมากเกินไปสำหรับเครื่องมือที่มีประสิทธิภาพไม่ดีหรือความสงสัยมากเกินไปเกี่ยวกับเครื่องมือที่มีประโยชน์” และ“ ผลการบังคับใช้กฎหมาย
วิธีการทดสอบที่แนะนำของแผงควบคุม“ มีการระบุไว้ในลำดับที่มักเกี่ยวข้องกับความถูกต้องจากการทดลองที่เข้มงวดมากที่สุด
การทดสอบทั้งหมด“ เมื่อได้รับการออกแบบอย่างถูกต้องสามารถสร้างข้อมูลที่เป็นประโยชน์ที่ปรับปรุงฐานหลักฐานที่มีอยู่ แต่วิธีการที่ระบุไว้ในลำดับชั้นที่สูงขึ้นมีแนวโน้มที่จะแนะนำความสัมพันธ์เชิงสาเหตุโดยการลบอิทธิพลของปัจจัยภายนอก (“ confounders”) รายงาน
รายงานกล่าวว่า“ เมื่อใดก็ตามที่การทดสอบภาคสนามได้รับการออกแบบล่วงหน้ามันจะสร้างโอกาสในการค้นพบข้อมูลเกี่ยวกับเอฟเฟกต์ที่หลากหลาย” และ“ โดยทั่วไปแล้วการวัดแต่ละตัวจะเพิ่มค่าใช้จ่ายหรือความพยายามพิเศษเพียงเล็กน้อยด้วยเหตุผลนี้” แผงได้อนุมัติคำแนะนำในการพิจารณาและรวบรวมข้อมูล
คำแนะนำที่ได้รับอนุมัติสามประการของคณะอนุกรรมการคือ:
- สำนักงานการจัดการและงบประมาณ (OMB) กำหนดให้หน่วยงานบังคับใช้กฎหมายของรัฐบาลกลางต้องผ่านการทดสอบภาคสนามรูปแบบที่สอดคล้องกับรายการตรวจสอบที่ให้ไว้ ข้อกำหนดการทดสอบภาคสนามอาจได้รับการยกเว้นหากนโยบายการใช้งานของเอเจนซี่ จำกัด การใช้เครื่องมือไปยังนโยบายการใช้งานเดียวกันและเงื่อนไขที่คล้ายคลึงกันอย่างมากซึ่งก่อนหน้านี้ได้รับการทดสอบภาคสนามก่อนหน้านี้โดยหน่วยงานอื่น
- OMB เพื่อแก้ไขคำแนะนำเพื่อชี้แจงว่าแผนการทดสอบภาคสนามและผลลัพธ์จะต้องเผยแพร่ในสินค้าคงคลัง AI ที่เกี่ยวข้องหรือบนเว็บไซต์ของรัฐอื่น สิ่งนี้ควรเกิดขึ้นแม้ว่าแอปพลิเคชัน AI จะไม่ถูกนำมาใช้หลังจากการทดสอบภาคสนาม
- สอดคล้องกับทำเนียบขาวนโยบายสำหรับ“ การขจัดอุปสรรคต่อการใช้ AI อย่างรับผิดชอบ” สภาคองเกรสควรสร้างทุนพิเศษที่ได้รับรางวัลจากสำนักความช่วยเหลือด้านความยุติธรรมซึ่งจะสนับสนุนการทำงานร่วมกันระหว่างหน่วยงานตำรวจผู้ผลิตเทคโนโลยีและนักวิจัยอิสระเพื่อจุดประสงค์เฉพาะในการทำการทดสอบภาคสนามอิสระของเครื่องมือบังคับใช้กฎหมาย AI การทบทวนข้อเสนอควรอยู่ในส่วนหนึ่งของความสอดคล้องกับรายการตรวจสอบการทดสอบภาคสนาม
หัวข้อบทความ
AI-ไบโอเมตริกซ์-การจดจำใบหน้า-การบังคับใช้กฎหมาย-Naiac-รัฐบาลสหรัฐฯ
