กระทรวงความมั่นคงแห่งมาตุภูมิ (DHS) ได้ก้าวไปสู่การพัฒนานโยบายและกรอบการทำงานเพื่อควบคุมการใช้ AI รวมถึงการใช้งานในไบโอเมตริกซ์ แต่ช่องว่างยังคงอยู่ในการสร้างความมั่นใจว่าเทคโนโลยี AI นั้นใช้อย่างรับผิดชอบและมีจริยธรรม
“ DHS ออกคำแนะนำเฉพาะ AI แต่งตั้งหัวหน้าเจ้าหน้าที่ AI และจัดตั้งคณะทำงานหลายแห่งและหน่วยงาน AI เพื่อช่วยชี้แนะความพยายามของ AI ของแผนก อย่างไรก็ตามจำเป็นต้องมีการดำเนินการเพิ่มเติมเพื่อให้แน่ใจว่า DHS มีการกำกับดูแลที่เหมาะสมสำหรับการใช้ AI ที่รับผิดชอบและปลอดภัย” IG กล่าวในใหม่รายงานการตรวจสอบ-
“ โดยไม่เหมาะสมการกำกับดูแล AI อย่างต่อเนื่อง DHS ต้องเผชิญกับความเสี่ยงที่เพิ่มขึ้นซึ่งความพยายามของ AI จะละเมิดความปลอดภัยและสิทธิของชาวอเมริกัน” IG เตือน
การอัปเดตไบโอเมตริกซ์ก่อนหน้านี้รายงานว่า IG มีช่องว่างที่สำคัญในแผนการดำเนินงานอย่างเป็นทางการของ DHS สำหรับกลยุทธ์ AI ที่ต้องได้รับการแก้ไขเพื่อจัดแนวแผนกอย่างเต็มที่กับแนวทางของรัฐบาลกลางเพื่อลดความเสี่ยงที่อาจเกิดขึ้นเพื่อการกำกับดูแลและความโปร่งใส นอกจากนี้การบริหารของทรัมป์ในประเด็นความเป็นส่วนตัวและความปลอดภัยของ AI
IG กล่าวว่า“ DHS ได้กำหนดกลยุทธ์ AI เพื่อเป็นแนวทางในเป้าหมายและวัตถุประสงค์ของ AI ทั่วทั้งองค์กร แต่มันไม่ได้ดำเนินการตามกลยุทธ์อย่างมีประสิทธิภาพเพราะไม่ได้พัฒนาแผนการดำเนินงาน นอกจากนี้ DHS ไม่มีกระบวนการกำกับดูแลที่เพียงพอในการตรวจสอบการปฏิบัติตาม AI เกี่ยวกับความเป็นส่วนตัวและสิทธิพลเมืองและข้อกำหนดเสรีภาพของพลเมืองเนื่องจากความท้าทายด้านทรัพยากร”
หนึ่งในปัญหาเร่งด่วนที่สุดที่ระบุไว้ในรายงานการตรวจสอบใหม่ของ IG คือการขาดกระบวนการกำกับดูแลที่เพียงพอในการตรวจสอบการปฏิบัติตามข้อกำหนดความเป็นส่วนตัวและเสรีภาพของพลเมือง สำนักงานความเป็นส่วนตัว (PRIM) และสำนักงานเพื่อสิทธิพลเมืองและเสรีภาพพลเมือง (CRCL) มีความรับผิดชอบหลักในการรับรองว่าการปรับใช้เทคโนโลยี AI ไม่ได้ทำลายการคุ้มครองความเป็นส่วนตัวหรือละเมิดเสรีภาพของพลเมือง แม้จะมีเอกสารเหล่านี้ แต่สำนักงานทั้งสองเผชิญกับความท้าทายด้านทรัพยากรที่สำคัญซึ่งขัดขวางความสามารถในการดูแลการใช้งาน AI ได้อย่างมีประสิทธิภาพ
รายงานเน้นว่า PRIM ไม่มีกระบวนการอย่างเป็นทางการในการระบุจัดลำดับความสำคัญหรือตรวจสอบการปิดการทบทวนการปฏิบัติตามความเป็นส่วนตัว (PCRs) PCRs เป็นสิ่งจำเป็นสำหรับการประเมินว่าโปรแกรม DHS ปฏิบัติตามกฎหมายและนโยบายความเป็นส่วนตัวโดยเฉพาะอย่างยิ่งในการใช้เทคโนโลยีเช่น AI ซึ่งเกี่ยวข้องกับการรวบรวมและวิเคราะห์ข้อมูลส่วนบุคคลโดยเนื้อแท้ หากไม่มีวิธีการที่มีโครงสร้างในการดำเนินการตรวจสอบเหล่านี้ IG ได้พิจารณาแล้วมีความเสี่ยงสูงที่การละเมิดความเป็นส่วนตัวอาจไม่ถูกตรวจพบ
ยิ่งไปกว่านั้นการตรวจสอบพบว่ากระบวนการที่มีอยู่ของ PRAV นั้นไม่มีการควบคุมที่เพียงพอในการระบุว่า PCRs ใดที่จำเป็นหรือแนะนำโดยเอกสารโปรแกรม DHS การตรวจสอบภายในดำเนินการในปี 2567 เปิดเผย PCRs ที่ไม่สมบูรณ์หลายรายการรวมถึงเครื่องมือที่เกี่ยวข้องกับเครื่องมือ AI กำเนิด ช่องว่างการกำกับดูแลนี้น่าตกใจเนื่องจากความไวของข้อมูลที่จัดการโดยระบบ AI เหล่านี้และศักยภาพในการใช้ในทางที่ผิด
นอกเหนือจากการขาดโครงสร้างเหล่านี้ CRCL ยังไม่ได้ใช้กระบวนการที่เป็นทางการเพื่อให้การกำกับดูแลแอปพลิเคชัน AI อย่างต่อเนื่องภายใน DHS แม้ว่า CRCL ได้พัฒนาร่างกรอบการประเมินความเสี่ยง AI สำหรับสิทธิพลเมืองและเสรีภาพของพลเมือง แต่ก็ยังไม่ได้ทำให้เป็นช่องว่างที่สำคัญในโครงสร้างการกำกับดูแล กรอบนี้มีวัตถุประสงค์เพื่อเป็นแนวทางในการประเมินความเสี่ยงของ AI โดยเฉพาะอย่างยิ่งเกี่ยวกับการเลือกปฏิบัติอคติและการละเมิดเสรีภาพของพลเมือง การไม่มีกรอบการสรุปหมายความว่า DHS ขาดกลไกที่ครอบคลุมในการป้องกันความเสี่ยงเหล่านี้
การใช้เทคโนโลยี AI เช่นการจดจำใบหน้า (FR) และการจับใบหน้า (FC) ทำให้ภูมิทัศน์ความเป็นส่วนตัวมีความซับซ้อนยิ่งขึ้น เทคโนโลยีเหล่านี้มีความไวต่อความเป็นส่วนตัวโดยเนื้อแท้เนื่องจากเกี่ยวข้องกับการระบุไบโอเมตริกซ์ของบุคคลบ่อยครั้งโดยไม่ได้รับความยินยอมอย่างชัดเจน DHS ได้ดำเนินการตามนโยบายเพื่อควบคุมการใช้เทคโนโลยี FR และ FC โดยเน้นถึงความจำเป็นในการปกป้องความเป็นส่วนตัวและสิทธิพลเมือง อย่างไรก็ตามประสิทธิผลของนโยบายเหล่านี้ขึ้นอยู่กับการตรวจสอบอย่างเข้มงวดและการตรวจสอบการปฏิบัติตามกฎระเบียบซึ่งตามรายงานระบุว่าขณะนี้ไม่เพียงพอ
รายงานยังวิพากษ์วิจารณ์กระบวนการอนุมัติตามเงื่อนไขของ DHS สำหรับเครื่องมือ AI เชิงพาณิชย์ ในขณะที่แผนกได้กำหนดกรอบการทำงานเพื่อประเมินความถูกต้องของเครื่องมือความปลอดภัยความปลอดภัยและความเป็นส่วนตัว แต่กลไกการกำกับดูแลไม่เพียงพอ บุคลากร DHS ทั้งหมดจะต้องลงนามในกฎของข้อตกลงพฤติกรรมและการฝึกอบรมที่สมบูรณ์เกี่ยวกับการใช้เครื่องมือ AI ที่รับผิดชอบ แม้จะมีมาตรการเหล่านี้รายงานแสดงให้เห็นว่าจำเป็นต้องมีการกำกับดูแลที่แข็งแกร่งมากขึ้นเพื่อให้แน่ใจว่าเครื่องมือเหล่านี้ใช้อย่างมีจริยธรรมและความเสี่ยงด้านความเป็นส่วนตัวนั้นลดลงอย่างมีประสิทธิภาพ
ข้อกังวลที่สำคัญอีกประการหนึ่งคือความล้มเหลวของ DHS ในการตรวจสอบให้แน่ใจว่ามีการรายงานกรณีการใช้ AI ที่ครอบคลุมและข้อมูลที่เกี่ยวข้อง ข้อกำหนดของรัฐบาลกลางได้รับคำสั่งว่า DHS รายงานกรณีการใช้ AI ที่มีสิทธิ์ทั้งหมดไปยังหน่วยงานภาครัฐอื่น ๆ และสาธารณะให้ความโปร่งใสและความรับผิดชอบ อย่างไรก็ตามรายงานพบว่ากระบวนการรายงานของ DHS ไม่สมบูรณ์ขาดข้อมูลที่สำคัญและหลักฐานเพื่อแสดงให้เห็นถึงการปฏิบัติตามมาตรฐานของรัฐบาลกลาง การขาดนี้จะทำลายความไว้วางใจของประชาชนและตั้งคำถามเกี่ยวกับความมุ่งมั่นของแผนกในการใช้ AI ทางจริยธรรม
“ DHS พัฒนากระบวนการเพื่อติดตามและรายงานการใช้ AI ต่อสาธารณะตามที่ต้องการ แต่กระบวนการไม่ได้ระบุและติดตามข้อมูลบางอย่างที่จำเป็นในการรายงานกรณีการใช้ AI ของแผนก DHS ยังมีหลักฐาน จำกัด ที่แสดงให้เห็นว่าทำไมจึงพิจารณาการใช้ AI ที่สอดคล้องกับข้อกำหนดของรัฐบาลกลางเนื่องจาก DHS และส่วนประกอบของมันไม่มีกระบวนการที่เป็นทางการในการระบุตรวจสอบและตรวจสอบข้อมูลที่รวมอยู่ในการรายงาน AI ของกรม
การตรวจสอบ IG ให้คำแนะนำหลายประการเพื่อแก้ไขปัญหาความเป็นส่วนตัวและการกำกับดูแลเหล่านี้ กุญแจสำคัญในหมู่พวกเขาคือการเรียกร้องให้หน่วยงานข่าวกรองประดิษฐ์ DHS เพื่อประเมินและอัปเดตกลยุทธ์ AI ของแผนก นอกจากนี้คณะทำงานนโยบายปัญญาประดิษฐ์ได้รับการกระตุ้นให้พัฒนากรอบการจัดการความเสี่ยง AI ที่ครอบคลุมและปรับปรุงนโยบายที่มีอยู่เพื่อสะท้อนความท้าทายที่ไม่เหมือนใครโดยเทคโนโลยี AI
เพื่อเสริมสร้างการกำกับดูแลความเป็นส่วนตัวรายงานแนะนำว่าสำนักงานความเป็นส่วนตัวของ DHS ปรับปรุงกระบวนการ PCR รวมถึงการติดตามอย่างเป็นทางการของบทวิจารณ์ที่จำเป็นและการพัฒนาวิธีการในการจัดลำดับความสำคัญของ PCRs ตามดุลยพินิจ นอกจากนี้ CRCL ยังแนะนำให้เสร็จสิ้นกรอบการจัดการความเสี่ยง AI และมั่นใจว่าทรัพยากรที่เพียงพอจะได้รับการจัดสรรสำหรับกิจกรรมการกำกับดูแลอย่างต่อเนื่อง
การค้นพบของ IG เน้นย้ำถึงความต้องการที่สำคัญสำหรับ DHS เพื่อเสริมสร้างโครงสร้างการกำกับดูแลความเป็นส่วนตัวในขณะที่ยังคงรวม AI เข้ากับการดำเนินงาน หากไม่มีการกำกับดูแลที่ครอบคลุม IG กล่าวว่ามีความเสี่ยงอย่างมากที่สามารถใช้เทคโนโลยี AI ในรูปแบบที่ประนีประนอมความเป็นส่วนตัวของแต่ละบุคคลเสรีภาพพลเมืองและความไว้วางใจสาธารณะ
หัวข้อบทความ
-------
