美国国土安全部（DHS）正在制定政策和程序，以解决使用AI的技术的偏见风险审计政府问责办公室（GAO）发现，该部门没有“通过使用所有检测，观察和监测技术来评估偏见风险”的政策或程序。
GAO进一步发现，尽管DHS执法机构可以从国土安全部的民权和公民自由办公室（CRCL）寻求有关与技术使用有关的偏见问题的建议……因此，不需要这样做。因此，CRCL对检测，观察，观察和监测技术的审查水平有所不同。”
Gao说：“通过制定政策和程序来评估和解决DHS执法机构对检测，观察和监测技术的使用所带来的偏见的风险，CRCL可以通过引入偏见来帮助确保这些技术不会侵犯公民权利和公民自由。”
根据GAO的说法，这些问题自2023年9月报道DHS和司法部“可以做更多的事情来确保满足培训和隐私要求。当时，GAO提出了十项建议，包括移民和海关执法（ICE）（ICE）建立和实施一项程序，以确定使用面部认可服务的员工是否能够支持犯罪培训要求完成培训。”
为了执行保护国家的使命，DHS越来越多地转向尖端的检测，观察和监测技术，从自动化的车牌读取器到AI驱动的面部识别系统，从而大大扩大了DHS的验光功能。但是，正如高（Gao）的审计所揭示的那样，这种技术阿森纳对隐私和偏见的风险产生了深远的影响，从而造成了安全与公民自由的交汇点。
国土安全部在公共空间中部署20多种监视技术代表了其观察范围的巨大扩展。这些工具中的许多工具无需逮捕令，利用公共场所中的个人无法合理地期望隐私的前提。例如，自动化的车牌读取器和射击摄像头通常被固定在视线或隐藏在公用事业电线杆上，捕获连续的数据流，包括车牌信息和高清视频录像。另外，一些由AI支持的分析软件增强了检测，跟踪和分析活动模式的能力。
这些系统虽然在刑事调查和边境安全行动中非常宝贵，但也引起了人们对个人隐私的重大关注。这些技术收集和分析可识别的信息（PII）（从车牌到生物识别数据）的能力提高了监视状态的幽灵，在该状态下，对个人的运动和关联进行了精心跟踪。
GAO审核强调了DHS并未统一实施的政策，该政策针对其一系列技术的关键隐私保护。 GAO发现，隐私的基本原理 - 数据最小化，目的规范，数据安全性，保留限制和问责制 - 在DHS的组件机构（例如ICE，海关和边境保护局（CBP）和秘密服务）中不一致地应用。
例如，虽然CBP的非共同戴型摄像机的政策纳入了DHS指南概述的所有六个隐私保护措施，但其杆摄像机的政策无关。同样，ICE的自动化车牌读取器的政策牢固地涵盖了隐私保护措施，但是射击相机和其他技术的政策却不全面。
GAO说：“国土安全部进行隐私影响评估，以向公众提供有关该机构计划如何解决主要隐私保护的信息，”但是政策……需要指导员工在使用特定技术时如何实施这些隐私保护。通过要求使用每种技术的政策解决关键的隐私保护，国土安全部机构将更好地保证正在实施隐私保护，并且技术用户意识到其保护隐私的责任。”
高说，如果没有明确的指示，代理商人员可能会无意中滥用数据或无法实施必要的保障措施，从而使个人面临未经授权的监视和数据泄露的风险。此外，Gao说，依赖隐私影响评估（PIA）向员工告知员工隐私义务已证明不足，他指出，尽管PIAS虽然具有关键的透明度工具，但通常缺乏操作细节，并且并不是针对单个技术的特定细微差别量身定制的。
加重这些挑战的是一种称为“马赛克效应”的现象，其中汇总了来自各种来源的不同数据，以创建一个个人的详细和揭示的肖像。例如，自动化的车牌读取器捕获车辆位置，再加上面部识别数据和其他监视输入，可以洞悉一个人的日常工作，协会甚至政治或宗教信仰。
高的发现强调了这种能力虽然本质上不是非法的，却对诸如言论自由和集会等宪法保护的活动产生了令人恐惧的影响。不断受到监控的知识或感知也可能阻止个人参加公共抗议活动或参与其他形式的异议。
除了明显的隐私问题之外，GAO的审核还阐明了DHS部署技术中偏见的风险。尽管AI驱动的工具有望提高监视的效率和准确性，但它们也扩大了系统性和算法偏见的风险。
GAO的审计报告强调，现有的DHS政策和程序在全面解决这些风险方面缺乏。当该部门开发评估和减轻特定AI特定偏见的指导时，它并没有扩展这些努力，以涵盖其更广泛的检测，观察和监测技术。这种缺乏监督在维护公民自由方面留下了很大的差距，特别是对于受监视实践影响不成比例影响的边缘化社区而言。
GAO指出：“尽管国土安全部正在制定政策和程序以帮助确保对AI技术的偏见进行评估，但它没有计划制定此类政策或程序以进行其他检测，观察和监测技术”，因为“不需要。” GAO补充说：“ CBP，ICE和特勤局表示，他们没有政策或程序来评估他们专门针对偏见的所有检测，观察和监测技术的使用。”
同时，偏见监视的后果是深远的。误解和歧视性定位可能会导致错误逮捕，侵入性调查以及执法部门与他们所服务的社区之间的信任分解。此外，关于在何处和如何部署监视技术（例如优先考虑高犯罪领域）的决策可以无意间在执法惯例中加剧种族和经济差异。
GAO的审计不仅可以记录这些缺点。它为改革提供了路线图。它的建议包括制定强大的政策和程序，以评估和减轻所有监视技术的偏见，而不仅仅是由AI提供支持的技术。这样的措施将有助于确保DHS技术不会对特定群体或侵犯民权的影响不成比例。
审计报告还强调了DHS通过将其直接嵌入到每种技术的运营政策中，以增强其隐私保护。这些政策应阐明有关数据收集，保留和共享的明确指南，以及通过审核和监督审查来执行问责制。
此外，GAO呼吁DHS与其民权和公民自由办公室之间提高透明度和合作。通过需要执法机构高说，要在部署新技术之前就潜在的偏见和隐私影响咨询CRCL，DHS可以培养问责制和道德警惕的文化。
GAO审计提出的问题超出了DHS，反映了有关技术在治理和执法部门中的作用的更广泛的社会辩论。监视工具的快速扩散超过了法律和道德框架的发展，以规范其使用。这种监管滞后为滥用权力和旨在保护和服务的机构的公共信任侵蚀留出了空间。
正如GAO对DHS所说明的审计所述，技术对技术的挑战并不是无法克服的，但它们确实需要一致的努力和承诺。通过实施GAO的建议，DHS可以为负责和公平使用监视技术的先例树立先例 - 平衡国家安全的当务之急与其所服务个人的基本权利。
问题不是技术是否会继续在执法中发挥核心作用，而是其使用是否会受到维护所有个人尊严，平等和隐私的原则的指导。由于GAO审核非常清楚，这些赌注不可能更高。
