國土安全部（DHS）已在製定政策和框架來管理其AI使用（包括在生物識別技術中的使用）方面取得了長足進步，但是該部門的監察長（IG）在確保對AI技術進行負責任地和道德上的使用方面仍然存在差距。
“國土安全部發布了特定於AI的指導，任命了AI首席官，並成立了多個工作組及其AI工作組，以幫助指導該部門的AI努力。但是，需要採取更多行動來確保國土發展部對AI負責和安全使用適當的治理。” IG在新的審計報告。
IG警告說：“如果沒有適當的AI治理，DHS面臨著AI努力將侵犯美國人民的安全和權利的風險。”
生物識別更新以前報導IG也有DHS正式執行計劃的AI策略的巨大差距必須解決該部門與聯邦指南完全結合的，以減輕對監督和透明度的潛在風險。此外，特朗普政府的在AI上，強調隱私和安全問題。
IG說：“ DHS建立了一種AI策略來指導企業範圍內的AI目標和目標，但由於沒有製定實施計劃，因此沒有有效執行該策略。此外，由於資源挑戰，國土安全部沒有足夠的治理程序來監測AI遵守隱私，公民權利以及公民自由要求的要求。”
IG的新審計報告中概述的最緊迫的問題之一是缺乏足夠的治理流程來監視DHS遵守隱私和公民自由要求。隱私辦公室（PRIV）和民權與公民自由辦公室（CRCL）承擔確保AI技術部署的主要責任，不會侵蝕隱私保護或侵犯公民自由。儘管有這些任務，但兩個辦公室都面臨著重大的資源挑戰，阻礙了他們有效監督AI實施的能力。
該報告強調，PRIV沒有正式程序來識別，優先級或監視隱私合規審查（PCR）的關閉。 PCR對於評估DHS計劃是否遵守隱私法律和政策，尤其是在使用AI之類的技術時，它本質上涉及個人信息的收集和分析，至關重要。 IG確定，如果沒有進行這些審查的結構化方法，侵犯隱私行為可能會被發現的風險更高。
此外，審核發現，Priv的現有過程缺乏足夠的控制，無法確定DHS計劃文檔需要或建議的PCR。 2024年進行的內部審查揭示了幾個不完整的PCR，包括與生成AI工具有關的PCR。考慮到這些AI系統處理的數據的敏感性以及濫用的潛力，這種監督差距令人震驚。
除了這些結構性缺陷外，CRCL尚未實施正式的過程，以提供對DHS中AI應用程序的持續監督。儘管CRCL已為民權和公民自由制定了AI風險評估框架草案，但它仍在統治中，在治理結構中留下了關鍵的空白。該框架旨在指導對AI風險的評估，尤其是有關歧視，偏見和侵犯公民自由的評估。沒有完成的框架意味著DHS缺乏保護這些風險的全面機制。
面部識別（FR）和麵部捕獲（FC）等AI技術的使用進一步使隱私景觀變得複雜。這些技術固有地對隱私敏感，因為它們涉及個人的生物特徵識別通常未經明確的同意。國土安全部已實施政策來管理FR和FC技術的使用，強調需要保護隱私和公民權利的必要性。但是，這些政策的有效性取決於嚴格的監督和合規性監控，如報告所指出的那樣，這是目前不足的。
該報告還批評了DHS對商業生成AI工具的有條件批准過程。儘管該部門已經建立了一個框架來評估這些工具的準確性，安全性和隱私影響，但監督機制不足。所有DHS人員都必須簽署行為協議規則，並完成有關負責使用AI工具的培訓。儘管採取了這些措施，但該報告表明，需要更健壯的治理，以確保這些工具在道德上使用並有效地減輕隱私風險。
另一個重要的問題是，國土安全部未能確保對AI用例和相關數據的全面報告。聯邦要求要求國土安全部向其他政府機構和公眾報告所有符合條件的AI用例，從而提供透明度和問責制。但是，該報告發現，國土安全部的報告過程不完整，缺乏關鍵數據和證據證明符合聯邦標準。這種缺陷破壞了公眾的信任，並提出了有關該部門對道德AI使用的承諾的疑問。
“ DHS開發了根據需要跟踪和報告其對AI使用的流程，但這些過程沒有識別並跟踪報告該部門的AI用例所需的一些數據。 DHS還有限證明其為什麼認為其AI使用符合聯邦要求，因為DHS及其組件沒有正式的過程來識別，審查和驗證該部門授權的AI報告中包含的數據。
IG審核提出了一些建議，以解決這些隱私和治理問題。其中至關重要的是呼籲DHS人工智能工作組評估和更新部門的AI策略。此外，敦促人工智能政策工作組開發全面的AI風險管理框架，並更新現有政策，以反映AI技術帶來的獨特挑戰。
為了加強隱私監督，該報告建議DHS隱私辦公室增強其PCR流程，包括正式跟踪所需的評論和開發優先級PCR的方法。此外，建議CRCL最終確定其AI風險管理框架，並確保為正在進行的監督活動分配足夠的資源。
IG的發現強調了DHS在繼續將AI整合到其運營中時強化其隱私治理結構的關鍵需求。 IG說，如果沒有全面的監督，就有很大的風險，即可以以損害個人隱私，公民自由和公眾信任的方式使用AI技術。
文章主題
|||||||
