美國國土安全部 (DHS) 監察長 (IG) 發現，在製定政策和框架來管理人工智能的使用（包括其在生物識別技術中的使用）方面取得了長足進步，但在確保負責任且合乎道德地使用人工智能技術方面仍存在差距。
“國土安全部發布了人工智能具體指南，任命了首席人工智能官，並成立了多個工作組及其人工智能工作組，以幫助指導該部門的人工智能工作。然而，需要採取更多行動來確保國土安全部對人工智能進行適當的治理，以負責任和安全的方式使用人工智能，”監察長在一份新的報告中表示。審計報告。
監察長警告說：“如果不對人工智能進行適當、持續的治理，國土安全部將面臨更大的風險，即其人工智能工作將侵犯美國人民的安全和權利。”
生物識別更新此前有報導稱，IG 還國土安全部的人工智能戰略正式實施計劃中存在重大差距，必須加以解決，以使該部門與聯邦指導方針完全一致，以減輕監督和透明度方面的潛在風險。此外，特朗普政府的關於人工智能的研究低估了隱私和安全問題。
監察長表示，“國土安全部製定了人工智能戰略來指導整個企業的人工智能目標，但由於沒有製定實施計劃，因此未能有效執行該戰略。此外，由於資源挑戰，國土安全部沒有足夠的治理流程來監控人工智能是否符合隱私、公民權利和公民自由要求。”
監察長的新審計報告中概述的最緊迫的問題之一是缺乏適當的治理流程來監督國土安全部遵守隱私和公民自由要求的情況。隱私辦公室（PRIV）和公民權利和公民自由辦公室（CRCL）承擔著確保人工智能技術的部署不會削弱隱私保護或侵犯公民自由的主要責任。儘管有這些任務，兩個辦公室都面臨著巨大的資源挑戰，阻礙了他們有效監督人工智能實施的能力。
該報告強調，PRIV 沒有正式的流程來識別、確定優先級或監控隱私合規審查 (PCR) 的結束。 PCR 對於評估 DHS 項目是否符合隱私法律和政策至關重要，特別是在使用人工智能等技術時，這些技術本質上涉及個人信息的收集和分析。監察長認為，如果沒有結構化的方法來進行這些審查，隱私侵犯行為未被發現的風險就會很高。
此外，審計發現 PRIV 的現有流程缺乏足夠的控制來確定 DHS 計劃文件要求或建議哪些 PCR。 2024 年進行的一項內部審查揭示了一些不完整的 PCR，包括與生成 AI 工具相關的 PCR。考慮到這些人工智能係統處理的數據的敏感性以及濫用的可能性，這種監督差距令人震驚。
除了這些結構性缺陷之外，CRCL 尚未實施正式流程來對國土安全部內的人工智能應用程序進行持續監督。儘管 CRCL 已經制定了公民權利和公民自由的人工智能風險評估框架草案，但它仍未最終確定，在治理結構中留下了嚴重的空白。該框架旨在指導人工智能風險評估，特別是有關歧視、偏見和侵犯公民自由的風險。缺乏最終框架意味著國土安全部缺乏防範這些風險的全面機制。
面部識別（FR）和麵部捕捉（FC）等人工智能技術的使用使隱私環境進一步複雜化。這些技術本質上是隱私敏感的，因為它們涉及個人的生物識別，通常未經個人明確同意。 DHS 已實施政策來管理 FR 和 FC 技術的使用，強調保護隱私和公民權利的必要性。然而，這些政策的有效性取決於嚴格的監督和合規性監控，正如報告所指出的那樣，目前這還不夠。
該報告還批評了國土安全部對商業生成人工智能工具的有條件批准程序。雖然該部門已經建立了一個框架來評估這些工具的準確性、安全性和隱私影響，但監督機制還不夠。所有國土安全部人員都必須簽署行為規則協議並完成有關負責任地使用人工智能工具的培訓。儘管採取了這些措施，但報告建議需要更強有力的治理，以確保這些工具的使用符合道德規範，並有效降低隱私風險。
另一個重大問題是國土安全部未能確保全面報告人工智能用例和相關數據。聯邦要求要求國土安全部向其他政府機構和公眾報告所有符合條件的人工智能用例，提供透明度和問責制。然而，報告發現國土安全部的報告流程不完整，缺乏關鍵數據和證據來證明其符合聯邦標準。這一缺陷損害了公眾的信任，並引發了人們對該部門對人工智能使用道德的承諾的質疑。
“國土安全部製定了流程，根據要求向公眾跟踪和報告人工智能的使用情況，但這些流程沒有識別和跟踪報告該部人工智能用例所需的一些數據。國土安全部也沒有足夠的證據來證明為什麼它認為其人工智能的使用符合聯邦要求，因為國土安全部及其組成部分沒有正式的流程來識別、審查和驗證該部強制人工智能報告中包含的數據。
IG 審計提出了幾項建議來解決這些隱私和治理問題。其中關鍵是呼籲國土安全部人工智能工作組評估和更新該部門的人工智能戰略。此外，敦促人工智能政策工作組制定全面的人工智能風險管理框架並更新現有政策，以反映人工智能技術帶來的獨特挑戰。
為了加強隱私監督，報告建議國土安全部隱私辦公室加強其 PCR 流程，包括對所需審查的正式跟踪和開發一種方法來確定酌情 PCR 的優先順序。此外，建議 CRCL 最終確定其人工智能風險管理框架，並確保為持續的監督活動分配足夠的資源。
IG 的調查結果強調，國土安全部在繼續將人工智能融入其運營的同時，迫切需要加強其隱私治理結構。監察長表示，如果沒有全面的監督，人工智能技術的使用可能會損害個人隱私、公民自由和公眾信任。
文章主題
|||||||
