ทำเนียบขาวออกคำสั่งใหม่สำหรับการเข้าซื้อกิจการของรัฐบาลกลางที่รับผิดชอบของ AI

สำนักงานการจัดการและงบประมาณของทำเนียบขาว (OMB) ได้ออกบันทึกข้อตกลงใหม่ที่กำกับดูแลหน่วยงานรัฐบาลกลางเพื่อปรับปรุงการได้มาซึ่งความรับผิดชอบของ AI ซึ่งครอบคลุมถึงสิทธิและปัญหาด้านความปลอดภัยที่มีอยู่ใน

คำสั่งกำหนดข้อกำหนดเฉพาะสำหรับการได้มาซึ่งระบบ AI และระบบไบโอเมตริกซ์ที่เปิดใช้งาน AI และ AI ที่เปิดใช้งานของรัฐบาล

บันทึกดังต่อไปนี้ของ OMBคำสั่งนโยบายมีนาคมซึ่งกำหนดข้อกำหนดและความรับผิดชอบสำหรับการใช้ AI ทั่วทั้งรัฐบาล สัปดาห์ที่ผ่านมาแผนกบริหารและหน่วยงานของสหรัฐอเมริกาปล่อยแผนการของพวกเขาเพื่อให้สอดคล้องกับคำสั่งก่อนหน้านี้

คำสั่งการเพิ่มความรับผิดชอบของปัญญาประดิษฐ์ในรัฐบาลสร้าง“ แนวทางปฏิบัติที่เกี่ยวข้องกับการได้มาซึ่งหน่วยงานจะต้องดำเนินการเพื่อให้แน่ใจว่ามีการปรับใช้แนวทางปฏิบัติด้านการจัดการความเสี่ยงที่จำเป็นสำหรับการส่งผลกระทบต่อสิทธิและความปลอดภัยที่ส่งผลกระทบต่อ AI” โดยเน้นว่าหน่วยงานของรัฐบาลกลาง“ ต้องมั่นใจว่าการพิจารณาความปลอดภัยและความเสี่ยงที่เกี่ยวข้อง

ซึ่งรวมถึงการกระทำที่เฉพาะเจาะจง OMB กล่าวว่า“ ออกแบบมาเพื่อแก้ไขปัญหาที่ซับซ้อนที่เกี่ยวข้องกับความเป็นส่วนตัวความปลอดภัยความเป็นเจ้าของข้อมูลและสิทธิและการทำงานร่วมกันที่อาจเกิดขึ้นในการเชื่อมต่อกับการได้มาของบริการหรือระบบ AI” รวมถึง“ แนวทางปฏิบัติเพิ่มเติม

คำสั่งนี้ยังรวมถึงข้อกำหนดใหม่และคำแนะนำในการสร้างความร่วมมือข้ามสายงานและระหว่างหน่วยงานเพื่อสะท้อนความรับผิดชอบ AI ใหม่การจัดการความเสี่ยงและประสิทธิภาพของ AI และส่งเสริมตลาด AI ที่มีการแข่งขันด้วยการซื้อกิจการที่เป็นนวัตกรรม

OMB ทำให้ชัดเจนว่าคำสั่งใหม่ของมัน“ ไม่ได้แทนที่นโยบายอื่น ๆ ของรัฐบาลกลางอื่น ๆ ที่ใช้กับ AI แต่ [เช่น] ไม่ จำกัด ขอบเขตของ AI รวมถึงนโยบายที่เกี่ยวข้องกับการจัดหาการจัดการความเสี่ยงขององค์กรการจัดการทรัพยากรสารสนเทศการแข่งขันต่อต้านการผูกขาดข้อมูลความเป็นส่วนตัวการเข้าถึงกิจกรรมทางสถิติของรัฐบาลกลาง

OMB กล่าวว่าคำสั่งในวันที่ 24 กันยายน“ ถูกกำหนดขอบเขตเพื่อจัดการกับการพิจารณาที่เกี่ยวข้องกับการได้มาซึ่งระบบหรือบริการ AI ของหน่วยงานหรือไม่ว่าระบบ AI หรือบริการที่ได้มานั้นจะเป็นแบบสแตนด์อโลนหรือรวมเข้ากับผลิตภัณฑ์เทคโนโลยีสารสนเทศหรือบริการที่กว้างขึ้น”

OMB กล่าวว่า“ ด้วยลักษณะที่หลากหลายของ AI บันทึกนี้รวมถึงข้อกำหนดสำหรับส่วนประกอบย่อยของระบบหรือบริการ AI เช่นข้อกำหนดเฉพาะกับโมเดลและข้อมูลการพิจารณาที่ระบุโดยบันทึกนี้รวมถึงความเสี่ยงจากการใช้ AI ตามที่กำหนดไว้ในส่วนที่ 6 ของบันทึกข้อตกลง OMB M-24-10และ“ ไม่ได้กล่าวถึงการพิจารณาทั้งหมดที่อาจเกิดขึ้นในการเชื่อมต่อกับการได้มาของ AI เช่นที่เกี่ยวข้องกับข้อมูลของรัฐบาลกลางและระบบข้อมูลโดยทั่วไป”

คำสั่งกำหนดให้หน่วยงานรัฐบาลกลางเพื่อให้แน่ใจว่าไบโอเมตริกที่ใช้ AI ปกป้องสิทธิความปลอดภัยและความเป็นส่วนตัวของประชาชนโดยการรับรองว่า“ ข้อกำหนดตามสัญญานั้นจัดการกับความเสี่ยงที่มีอยู่ในการจัดหาระบบ AI ที่ระบุตัวตนโดยใช้ตัวระบุไบโอเมตริกซ์ แม่นยำเพียงพอที่จะสนับสนุนการระบุไบโอเมตริกซ์ที่เชื่อถือได้”

OMB อธิบายในเชิงอรรถว่า“ สิ่งนี้อาจรวมถึง AI ใด ๆ ที่ผ่านการฝึกอบรมหรือดำเนินการโดยใช้ข้อมูลไบโอเมตริกซ์ที่ฝังอคติที่ไม่พึงประสงค์หรือถูกรวบรวมอย่างมีนัยสำคัญโดยไม่ได้รับความยินยอมอย่างเหมาะสมหรือเพื่อวัตถุประสงค์อื่นหรือไม่มีการตรวจสอบตัวตนที่รวมอยู่ด้วย”

เพื่อช่วยจัดการกับความเสี่ยงสำหรับการระบุไบโอเมตริกซ์และการตรวจสอบ OMB กล่าวว่าหน่วยงานรัฐบาลกลางทั้งหมดควรหลีกเลี่ยงระบบไบโอเมตริกซ์ที่พึ่งพาข้อมูลที่ไม่น่าเชื่อถือหรือผิดกฎหมายและเพื่อให้แน่ใจว่าข้อกำหนดตามสัญญาดังต่อไปนี้:

การตรวจสอบว่าระบบไบโอเมตริกซ์ที่ใช้ AI ไม่ได้รับการฝึกอบรมเกี่ยวกับข้อมูลที่รวบรวมในการละเมิดกฎหมายที่บังคับใช้หรือนโยบายของรัฐบาลกลางและระบบดังกล่าวมีความแม่นยำเพียงพอที่จะสนับสนุนการระบุไบโอเมตริกซ์ที่เชื่อถือได้และการตรวจสอบในกลุ่มต่าง ๆ ตามผลการทดสอบและการประเมินผลในบริบทการดำเนินงาน
ข้อกำหนดสำหรับผู้ขายในการส่งระบบที่ใช้การรับรู้ใบหน้าเพื่อการประเมินผลโดยสถาบันมาตรฐานและเทคโนโลยีแห่งชาติ (NIST) ซึ่งเป็นส่วนหนึ่งของการประเมินเทคโนโลยีการจดจำใบหน้าและการประเมินทางเทคนิคการวิเคราะห์ใบหน้า
ข้อกำหนดสำหรับการสนับสนุนเอกสารหรือผลการทดสอบรวมถึงข้อมูลการทดสอบพื้นฐานที่เหมาะสมเพียงพอที่จะตรวจสอบประสิทธิภาพการปฏิบัติงานของความสามารถของระบบ AI ในการจับคู่ข้อมูลประจำตัวและความเหมาะสมของข้อมูลที่เกี่ยวข้องที่ใช้สำหรับการฝึกอบรมผ่านการประเมินเช่นที่เสนอโดย NIST การประเมินอิสระและมาตรฐานของระบบควรรวมถึงการทดสอบในห้องปฏิบัติการของอัลกอริทึมตามด้วยการทดสอบการปฏิบัติงานซึ่งควรดำเนินการอย่างต่อเนื่องโดยใช้รุ่นปฏิบัติการของระบบไบโอเมตริกซ์และวัดโดยใช้วิธีการมาตรฐานใกล้เคียงกับบริบทการดำเนินงานมากที่สุดเท่าที่จะทำได้ และ
ข้อกำหนดที่ระบบไบโอเมตริกซ์รวมถึงสิ่งต่อไปนี้:
เกณฑ์ความคล้ายคลึงขั้นต่ำที่กำหนดค่าได้สำหรับผลลัพธ์ของผู้สมัคร
การบังคับใช้เกณฑ์คุณภาพขั้นต่ำสำหรับข้อมูลไบโอเมตริกซ์อินพุตหรือตัวอย่างที่ใช้สำหรับระบบไบโอเมตริกซ์รวมถึงข้อมูลที่ใช้ในแกลเลอรี่อ้างอิงหรือชุดข้อมูลการฝึกอบรมสำหรับระบบ เกณฑ์เหล่านี้ควรขึ้นอยู่กับมาตรฐานที่กำหนดโดยหน่วยงานอิสระเช่นองค์การระหว่างประเทศเพื่อมาตรฐาน (ISO)/International Electrotechnical Commission (IEC) ของ 29794-5: 201;
สำหรับภาพโพรบที่กำหนดหรืออินพุตข้อมูลในกรณีการใช้งานโดยใช้การค้นหาการระบุตัวตนแบบหนึ่งถึงหลายคนโดยส่งคืนรายการของผู้สมัครที่ตรงกันเหนือเกณฑ์ความคล้ายคลึงกันขั้นต่ำพร้อมกับคะแนนความคล้ายคลึงกันเมื่อใดก็ตามที่เป็นไปได้ และ
การบำรุงรักษาบันทึกการใช้งานโดยละเอียดสำหรับการตรวจสอบและการปฏิบัติตามรวมถึงการรวบรวมข้อมูลอินพุตและเอาต์พุตในรูปแบบที่รวมการป้องกันที่เหมาะสมสำหรับข้อมูลที่สามารถระบุตัวบุคคล (PII) และข้อมูลอื่น ๆ ได้ตลอดวงจรชีวิตของข้อมูลและ จำกัด การเก็บรักษาและ จำกัด การใช้ PII ใหม่สำหรับวัตถุประสงค์อื่น พารามิเตอร์การกำหนดค่าระบบ ผลการจับคู่คะแนนและการสั่งซื้อ และข้อมูลอื่น ๆ ตามความเหมาะสม

คำสั่ง OMB เพิ่มเติมกำหนดให้หน่วยงานรัฐบาลกลางปฏิบัติตามกฎหมายสิทธิพลเมืองเพื่อหลีกเลี่ยงอคติที่ผิดกฎหมายการเลือกปฏิบัติและผลลัพธ์ที่เป็นอันตราย

OMB อธิบายว่า“ ระบบ AI จำนวนมากพึ่งพาข้อมูลจำนวนมาก” และเนื่องจากพวกเขาทำ“ เครื่องมือเหล่านี้มีศักยภาพในการสร้างผลลัพธ์ที่ส่งผลให้เกิดการเลือกปฏิบัติที่ผิดกฎหมายการเลือกปฏิบัติอาจมาจากแหล่งข้อมูลที่แตกต่างกันบันทึกข้อตกลง OMB M-24-10หน่วยงานควรจัดการกับความเสี่ยงที่จัดหา AI อาจสร้างอคติที่ผิดกฎหมายการเลือกปฏิบัติที่ผิดกฎหมายหรือผลลัพธ์ที่เป็นอันตรายและกำหนดให้ผู้ขายต้องระบุอคติ AI ที่อาจเกิดขึ้นและกลยุทธ์การบรรเทาเพื่อแก้ไขอคติ”