雖然美國國土安全部 (DHS) 正在製定政策和程序來解決人工智能技術帶來的偏見風險，但審計政府問責辦公室 (GAO) 發現，該部門沒有製定在其組成機構中部署的“評估使用所有檢測、觀察和監測技術帶來的偏見風險”的政策或程序。
GAO 進一步發現，雖然“國土安全部執法機構可能會就與技術使用相關的偏見問題向國土安全部民權和公民自由辦公室 (CRCL) 尋求建議……但沒有要求這樣做。因此，CRCL 對檢測、觀察和監測技術的審查水平各不相同。”
GAO 表示：“通過制定政策和程序來評估和解決國土安全部執法機構使用檢測、觀察和監測技術所帶來的偏見風險，CRCL 可以幫助確保這些技術不會通過引入偏見來侵犯公民權利和公民自由。”
GAO 表示，這些問題自 2023 年 9 月以來就一直存在，當時報告稱國土安全部和司法部“可以採取更多措施來確保滿足培訓和隱私要求。當時，GAO 提出了十項建議，包括移民和海關執法局 (ICE) 建立並實施一個流程，定期監控使用面部識別服務支持刑事調查的工作人員是否已完成培訓要求。”
為了履行保衛國家的使命，國土安全部越來越多地採用尖端的檢測、觀察和監控技術，從自動車牌讀取器到人工智能驅動的面部識別系統，顯著增強了國土安全部的監控能力。但是，正如美國政府問責局的審計所揭示的那樣，這些技術武器對隱私和偏見風險產生了深遠的影響，在安全和公民自由之間造成了令人擔憂的交叉點。
DHS 在公共場所部署了 20 多種監控技術，這標誌著其觀測範圍的顯著擴大。其中許多工具的運行無需搜查令，其前提是公共場所的個人無法合理地期望隱私。例如，自動車牌讀取器和桿式攝像機通常安裝在顯眼的地方或隱藏在電線桿上，捕獲連續的數據流，包括車牌信息和高清視頻片段。此外，分析軟件（其中一些由人工智能驅動）增強了檢測、跟踪和分析活動模式的能力。
此類系統雖然在刑事調查和邊境安全行動中非常有價值，但也引起了對個人隱私的嚴重擔憂。這些技術收集和分析個人身份信息（PII）（從車牌到生物識別數據）的能力引發了人們對監視國家的擔憂，在這種情況下，個人的活動和關聯會被仔細跟踪。
GAO 的審計強調，國土安全部尚未統一實施針對其一系列技術的關鍵隱私保護的政策。 GAO 發現，隱私的基本原則——數據最小化、目的規範、數據安全、保留限制和問責制——在 ICE、海關和邊境保護局 (CBP) 以及特勤局等國土安全部下屬機構中的應用不一致。
例如，雖然 CBP 針對非隱蔽式隨身攝像頭的政策包含了國土安全部指南中概述的所有六項隱私保護措施，但其針對桿式攝像頭的政策卻沒有涉及任何內容。同樣，ICE 針對自動車牌讀取器的政策強有力地涵蓋了隱私保護措施，但針對桿式攝像頭和其他技術的政策則不太全面。
GAO 表示，“國土安全部進行隱私影響評估，向公眾提供有關該機構計劃如何解決關鍵隱私保護問題的信息”，但……需要製定政策來指導員工在使用特定技術時如何實施這些隱私保護。通過要求每種技術的使用政策解決關鍵的隱私保護問題，國土安全部機構將更好地確保隱私保護得到實施，並且技術用戶意識到他們保護隱私的責任。 ”
美國政府問責局表示，如果沒有明確的指示，機構人員可能會無意中濫用數據或未能實施必要的保障措施，從而使個人面臨未經授權的監視和數據洩露的風險。此外，GAO 表示，事實證明，依靠隱私影響評估 (PIA) 來告知員工隱私義務是不夠的，並指出 PIA 雖然是一種關鍵的透明度工具，但往往缺乏操作細節，並且不適合個別技術的具體細微差別。
使這些挑戰更加複雜的是一種被稱為“馬賽克效應”的現象，來自不同來源的不同數據被聚合在一起，以創建詳細且具有啟發性的個人肖像。例如，自動車牌讀取器捕獲車輛位置，結合面部識別數據和其他監控輸入，可以深入了解一個人的日常生活、交往，甚至政治或宗教信仰。
美國政府問責局的調查結果強調，這種能力雖然本質上並不違法，但卻對言論自由和集會自由等受憲法保護的活動產生了寒蟬效應。知道或認為自己受到持續監控也可能阻止個人參與公共抗議或其他形式的異議。
除了明顯的隱私問題之外，美國政府問責局的審計還對國土安全部技術部署中存在偏見的風險提出了批評。雖然人工智能驅動的工具有望提高監控的效率和準確性，但它們也放大了系統和算法偏差的風險。
美國政府問責局的審計報告強調，現有的國土安全部政策和程序不足以全面應對這些風險。雖然該部門正在製定評估和減輕人工智能特定偏見的指南，但尚未將這些努力擴展到涵蓋更廣泛的檢測、觀察和監控技術。缺乏監督在保障公民自由方面留下了巨大差距，特別是對於受到監視做法影響尤為嚴重的邊緣化社區而言。
美國政府問責局指出，“雖然國土安全部正在製定政策和程序，以幫助確保對人工智能技術進行偏見評估，但它沒有計劃為其他檢測、觀察和監測技術制定此類政策或程序”，因為“沒有必要這樣做”。 GAO 補充說，“CBP、ICE 和特勤局表示，他們沒有政策或程序來評估他們對所有檢測、觀察和監控技術的使用，專門針對偏見。”
與此同時，有偏見的監視的後果是深遠的。錯誤識別和歧視性目標可能導致錯誤逮捕、侵入性調查以及執法部門與其所服務的社區之間信任的破裂。此外，有關在何處以及如何部署監控技術的決定（例如優先考慮犯罪率高的地區）可能會無意中加劇執法實踐中的種族和經濟差異。
GAO 的審計不僅記錄了這些缺陷，而且還記錄了這些缺陷。它提供了改革路線圖。其建議包括制定強有力的政策和程序，以評估和減少所有監控技術的偏見，而不僅僅是人工智能驅動的監控技術。此類措施將有助於確保國土安全部的技術不會過度影響特定群體或侵犯公民權利。
審計報告還強調，國土安全部需要通過將隱私保護直接嵌入到每種技術的運營政策中來加強隱私保護。這些政策應闡明有關數據收集、保留和共享的明確指導方針，並通過審計和監督審查強化問責制。
此外，政府問責局還呼籲提高國土安全部及其民權和公民自由辦公室之間的透明度和合作。通過要求GAO 表示，在部署新技術之前向 CRCL 諮詢潛在偏見和隱私影響，國土安全部可以培養問責和道德警惕的文化。
美國政府問責局審計提出的問題超出了國土安全部的範圍，反映了關於技術在治理和執法中的作用的更廣泛的社會辯論。監控工具的迅速擴散已經超過了規範其使用的法律和道德框架的發展速度。這種監管滯後為濫用權力和削弱公眾對旨在保護和服務的機構的信任留下了空間。
正如美國政府問責局對國土安全部的審計所表明的那樣，隱私和技術偏見的挑戰並非不可克服，但它們確實需要共同努力和承諾。通過實施政府問責局的建議，國土安全部可以為負責任和公平地使用監控技術樹立先例——在國家安全的必要性與其所服務的個人的基本權利之間取得平衡。
問題不在於技術是否會繼續在執法中發揮核心作用，而在於技術的使用是否會遵循維護所有人尊嚴、平等和隱私的原則。正如政府問責局的審計所充分錶明的那樣，其中的風險是再大不過了。
文章主題
||||||||
