国土安全部（DHS）已在制定政策和框架来管理其AI使用（包括在生物识别技术中的使用）方面取得了长足进步，但是该部门的监察长（IG）在确保对AI技术进行负责任地和道德上的使用方面仍然存在差距。
“国土安全部发布了特定于AI的指导，任命了AI首席官，并成立了多个工作组及其AI工作组，以帮助指导该部门的AI努力。但是，需要采取更多行动来确保国土发展部对AI负责和安全使用适当的治理。” IG在新的审计报告。
IG警告说：“如果没有适当的AI治理，DHS面临着AI努力将侵犯美国人民的安全和权利的风险。”
生物识别更新以前报道IG也有DHS正式执行计划的AI策略的巨大差距必须解决该部门与联邦指南完全结合的，以减轻对监督和透明度的潜在风险。此外，特朗普政府的在AI上，强调隐私和安全问题。
IG说：“ DHS建立了一种AI策略来指导企业范围内的AI目标和目标，但由于没有制定实施计划，因此没有有效执行该策略。此外，由于资源挑战，国土安全部没有足够的治理程序来监测AI遵守隐私，公民权利以及公民自由要求的要求。”
IG的新审计报告中概述的最紧迫的问题之一是缺乏足够的治理流程来监视DHS遵守隐私和公民自由要求。隐私办公室（PRIV）和民权与公民自由办公室（CRCL）承担确保AI技术部署的主要责任，不会侵蚀隐私保护或侵犯公民自由。尽管有这些任务，但两个办公室都面临着重大的资源挑战，阻碍了他们有效监督AI实施的能力。
该报告强调，PRIV没有正式程序来识别，优先级或监视隐私合规审查（PCR）的关闭。 PCR对于评估DHS计划是否遵守隐私法律和政策，尤其是在使用AI之类的技术时，它本质上涉及个人信息的收集和分析，至关重要。 IG确定，如果没有进行这些审查的结构化方法，侵犯隐私行为可能会被发现的风险更高。
此外，审核发现，Priv的现有过程缺乏足够的控制，无法确定DHS计划文档需要或建议的PCR。 2024年进行的内部审查揭示了几个不完整的PCR，包括与生成AI工具有关的PCR。考虑到这些AI系统处理的数据的敏感性以及滥用的潜力，这种监督差距令人震惊。
除了这些结构性缺陷外，CRCL尚未实施正式的过程，以提供对DHS中AI应用程序的持续监督。尽管CRCL已为民权和公民自由制定了AI风险评估框架草案，但它仍在统治中，在治理结构中留下了关键的空白。该框架旨在指导对AI风险的评估，尤其是有关歧视，偏见和侵犯公民自由的评估。没有完成的框架意味着DHS缺乏保护这些风险的全面机制。
面部识别（FR）和面部捕获（FC）等AI技术的使用进一步使隐私景观变得复杂。这些技术固有地对隐私敏感，因为它们涉及个人的生物特征识别通常未经明确的同意。国土安全部已实施政策来管理FR和FC技术的使用，强调需要保护隐私和公民权利的必要性。但是，这些政策的有效性取决于严格的监督和合规性监控，如报告所指出的那样，这是目前不足的。
该报告还批评了DHS对商业生成AI工具的有条件批准过程。尽管该部门已经建立了一个框架来评估这些工具的准确性，安全性和隐私影响，但监督机制不足。所有DHS人员都必须签署行为协议规则，并完成有关负责使用AI工具的培训。尽管采取了这些措施，但该报告表明，需要更健壮的治理，以确保这些工具在道德上使用并有效地减轻隐私风险。
另一个重要的问题是，国土安全部未能确保对AI用例和相关数据的全面报告。联邦要求要求国土安全部向其他政府机构和公众报告所有符合条件的AI用例，从而提供透明度和问责制。但是，该报告发现，国土安全部的报告过程不完整，缺乏关键数据和证据证明符合联邦标准。这种缺陷破坏了公众的信任，并提出了有关该部门对道德AI使用的承诺的疑问。
“ DHS开发了根据需要跟踪和报告其对AI使用的流程，但这些过程没有识别并跟踪报告该部门的AI用例所需的一些数据。 DHS还有限证明其为什么认为其AI使用符合联邦要求，因为DHS及其组件没有正式的过程来识别，审查和验证该部门授权的AI报告中包含的数据。
IG审核提出了一些建议，以解决这些隐私和治理问题。其中至关重要的是呼吁DHS人工智能工作组评估和更新部门的AI策略。此外，敦促人工智能政策工作组开发全面的AI风险管理框架，并更新现有政策，以反映AI技术带来的独特挑战。
为了加强隐私监督，该报告建议DHS隐私办公室增强其PCR流程，包括正式跟踪所需的评论和开发优先级PCR的方法。此外，建议CRCL最终确定其AI风险管理框架，并确保为正在进行的监督活动分配足够的资源。
IG的发现强调了DHS在继续将AI整合到其运营中时强化其隐私治理结构的关键需求。 IG说，如果没有全面的监督，就有很大的风险，即可以以损害个人隐私，公民自由和公众信任的方式使用AI技术。
文章主题
|||||||
