虽然美国国土安全部 (DHS) 正在制定政策和程序来解决人工智能技术带来的偏见风险，但审计政府问责办公室 (GAO) 发现，该部门没有制定在其组成机构中部署的“评估使用所有检测、观察和监测技术带来的偏见风险”的政策或程序。
GAO 进一步发现，虽然“国土安全部执法机构可能会就与技术使用相关的偏见问题向国土安全部民权和公民自由办公室 (CRCL) 寻求建议……但没有要求这样做。因此，CRCL 对检测、观察和监测技术的审查水平有所不同。”
“通过制定政策和程序来评估和解决国土安全部执法机构使用检测、观察和监测技术所带来的偏见风险，CRCL 可以帮助确保这些技术不会通过引入偏见而侵犯公民权利和公民自由， ”高说。
根据政府问责局的说法，这些问题自 2023 年 9 月以来就一直存在，当时报告称国土安全部和司法部“可以采取更多措施来确保满足培训和隐私要求。当时，政府问责局提出了十项建议，包括移民和海关执法局 (ICE) 建立并实施一个流程，定期监控使用面部识别服务支持刑事调查的工作人员是否完成了培训要求。”
为了履行保卫国家的使命，国土安全部越来越多地采用尖端的检测、观察和监控技术，从自动车牌读取器到人工智能驱动的面部识别系统，显着增强了国土安全部的监控能力。但是，正如美国政府问责局的审计所揭示的那样，这些技术武器对隐私和偏见风险产生了深远的影响，在安全和公民自由之间造成了令人担忧的交叉点。
DHS 在公共场所部署了 20 多种监控技术，这标志着其观测范围的显着扩大。其中许多工具的运行无需搜查令，其前提是公共场所的个人无法合理地期望隐私。例如，自动车牌读取器和杆式摄像机通常安装在显眼的地方或隐藏在电线杆上，捕获连续的数据流，包括车牌信息和高清视频片段。此外，分析软件（其中一些由人工智能驱动）增强了检测、跟踪和分析活动模式的能力。
此类系统虽然在刑事调查和边境安全行动中非常有价值，但也引起了对个人隐私的严重担忧。这些技术收集和分析个人身份信息（PII）（从车牌到生物识别数据）的能力引发了人们对监视国家的担忧，在这种情况下，个人的活动和关联会被仔细跟踪。
GAO 的审计强调，国土安全部尚未统一实施针对其一系列技术的关键隐私保护的政策。 GAO 发现，隐私的基本原则——数据最小化、目的规范、数据安全、保留限制和问责制——在 ICE、海关和边境保护局 (CBP) 以及特勤局等国土安全部下属机构中的应用不一致。
例如，虽然 CBP 针对非隐蔽式随身摄像头的政策包含了国土安全部指南中概述的所有六项隐私保护措施，但其针对杆式摄像头的政策却没有涉及任何内容。同样，ICE 针对自动车牌读取器的政策强有力地涵盖了隐私保护措施，但针对杆式摄像头和其他技术的政策则不太全面。
GAO 表示，“国土安全部进行隐私影响评估，向公众提供有关该机构计划如何解决关键隐私保护问题的信息”，但……需要制定政策来指导员工在使用特定技术时如何实施这些隐私保护。通过要求每种技术的使用政策解决关键的隐私保护问题，国土安全部机构将更好地确保隐私保护得到实施，并且技术用户意识到他们保护隐私的责任。”
美国政府问责局表示，如果没有明确的指示，机构人员可能会无意中滥用数据或未能实施必要的保障措施，从而使个人面临未经授权的监视和数据泄露的风险。此外，GAO 表示，事实证明，依靠隐私影响评估 (PIA) 来告知员工隐私义务是不够的，并指出 PIA 虽然是一种关键的透明度工具，但往往缺乏操作细节，并且不适合个别技术的具体细微差别。
使这些挑战更加复杂的是一种被称为“马赛克效应”的现象，来自不同来源的不同数据被聚合在一起，以创建详细且具有启发性的个人肖像。例如，自动车牌读取器捕获车辆位置，结合面部识别数据和其他监控输入，可以深入了解一个人的日常生活、交往，甚至政治或宗教信仰。
美国政府问责局的调查结果强调，这种能力虽然本质上并不违法，但却对言论自由和集会自由等受宪法保护的活动产生了寒蝉效应。知道或认为自己受到持续监控也可能阻止个人参与公共抗议或其他形式的异议。
除了明显的隐私问题之外，美国政府问责局的审计还对国土安全部技术部署中存在偏见的风险提出了批评。虽然人工智能驱动的工具有望提高监控的效率和准确性，但它们也放大了系统和算法偏差的风险。
美国政府问责局的审计报告强调，现有的国土安全部政策和程序不足以全面应对这些风险。虽然该部门正在制定评估和减轻人工智能特定偏见的指南，但尚未将这些努力扩展到涵盖更广泛的检测、观察和监控技术。缺乏监督在保障公民自由方面留下了巨大差距，特别是对于受到监视做法影响尤为严重的边缘化社区而言。
美国政府问责局指出，“虽然国土安全部正在制定政策和程序，以帮助确保对人工智能技术进行偏见评估，但它没有计划为其他检测、观察和监测技术制定此类政策或程序”，因为“没有必要这样做。 ” GAO 补充说，“CBP、ICE 和特勤局表示，他们没有政策或程序来评估他们对所有检测、观察和监控技术的使用，专门针对偏见。”
与此同时，有偏见的监视的后果是深远的。错误识别和歧视性目标可能导致错误逮捕、侵入性调查以及执法部门与其所服务的社区之间信任的破裂。此外，有关在何处以及如何部署监控技术的决定（例如优先考虑犯罪率高的地区）可能会无意中加剧执法实践中的种族和经济差异。
GAO 的审计不仅记录了这些缺陷，而且还记录了这些缺陷。它提供了改革路线图。其建议包括制定强有力的政策和程序，以评估和减少所有监控技术的偏见，而不仅仅是人工智能驱动的监控技术。此类措施将有助于确保国土安全部的技术不会过度影响特定群体或侵犯公民权利。
审计报告还强调，国土安全部需要通过将隐私保护直接嵌入到每种技术的运营政策中来加强隐私保护。这些政策应阐明有关数据收集、保留和共享的明确指导方针，并通过审计和监督审查强化问责制。
此外，政府问责局还呼吁提高国土安全部及其民权和公民自由办公室之间的透明度和合作。通过要求GAO 表示，在部署新技术之前向 CRCL 咨询潜在偏见和隐私影响，国土安全部可以培养问责和道德警惕的文化。
美国政府问责局审计提出的问题超出了国土安全部的范围，反映了关于技术在治理和执法中的作用的更广泛的社会辩论。监控工具的迅速扩散已经超过了规范其使用的法律和道德框架的发展速度。这种监管滞后为滥用权力和削弱公众对旨在保护和服务的机构的信任留下了空间。
正如美国政府问责局对国土安全部的审计所表明的那样，隐私和技术偏见的挑战并非不可克服，但它们确实需要共同努力和承诺。通过实施政府问责局的建议，国土安全部可以为负责任和公平地使用监控技术树立先例——在国家安全的必要性与其所服务的个人的基本权利之间取得平衡。
问题不在于技术是否会继续在执法中发挥核心作用，而在于技术的使用是否会遵循维护所有人尊严、平等和隐私的原则。正如政府问责局的审计所充分表明的那样，其中的风险是再大不过了。
文章主题
||||||||
