美国国土安全部 (DHS) 监察长 (IG) 发现，在制定政策和框架来管理人工智能的使用（包括其在生物识别技术中的使用）方面取得了长足进步，但在确保负责任且合乎道德地使用人工智能技术方面仍存在差距。
“国土安全部发布了人工智能具体指南，任命了首席人工智能官，并成立了多个工作组及其人工智能工作组，以帮助指导该部门的人工智能工作。然而，需要采取更多行动来确保国土安全部对人工智能进行适当的治理，以负责任和安全的方式使用人工智能，”监察长在一份新的报告中表示。审计报告。
监察长警告说：“如果不对人工智能进行适当、持续的治理，国土安全部将面临更大的风险，即其人工智能工作将侵犯美国人民的安全和权利。”
生物识别更新此前有报道称，IG 还国土安全部的人工智能战略正式实施计划中存在重大差距，必须加以解决，以使该部门与联邦指导方针完全一致，以减轻监督和透明度方面的潜在风险。此外，特朗普政府的关于人工智能的研究低估了隐私和安全问题。
监察长表示，“国土安全部制定了人工智能战略来指导整个企业的人工智能目标，但由于没有制定实施计划，因此未能有效执行该战略。此外，由于资源挑战，国土安全部没有足够的治理流程来监控人工智能是否符合隐私、公民权利和公民自由要求。”
监察长的新审计报告中概述的最紧迫的问题之一是缺乏适当的治理流程来监督国土安全部遵守隐私和公民自由要求的情况。隐私办公室（PRIV）和公民权利和公民自由办公室（CRCL）承担着确保人工智能技术的部署不会削弱隐私保护或侵犯公民自由的主要责任。尽管有这些任务，两个办公室都面临着巨大的资源挑战，阻碍了他们有效监督人工智能实施的能力。
该报告强调，PRIV 没有正式的流程来识别、确定优先级或监控隐私合规审查 (PCR) 的结束。 PCR 对于评估 DHS 项目是否符合隐私法律和政策至关重要，特别是在使用人工智能等技术时，这些技术本质上涉及个人信息的收集和分析。监察长认为，如果没有结构化的方法来进行这些审查，隐私侵犯行为未被发现的风险就会很高。
此外，审计发现 PRIV 的现有流程缺乏足够的控制来确定 DHS 计划文件要求或建议哪些 PCR。 2024 年进行的一项内部审查揭示了一些不完整的 PCR，包括与生成 AI 工具相关的 PCR。考虑到这些人工智能系统处理的数据的敏感性以及滥用的可能性，这种监督差距令人震惊。
除了这些结构性缺陷之外，CRCL 尚未实施正式流程来对国土安全部内的人工智能应用程序进行持续监督。尽管 CRCL 已经制定了公民权利和公民自由的人工智能风险评估框架草案，但它仍未最终确定，在治理结构中留下了严重的空白。该框架旨在指导人工智能风险评估，特别是有关歧视、偏见和侵犯公民自由的风险。缺乏最终框架意味着国土安全部缺乏防范这些风险的全面机制。
面部识别（FR）和面部捕捉（FC）等人工智能技术的使用使隐私环境进一步复杂化。这些技术本质上是隐私敏感的，因为它们涉及个人的生物识别，通常未经个人明确同意。 DHS 已实施政策来管理 FR 和 FC 技术的使用，强调保护隐私和公民权利的必要性。然而，这些政策的有效性取决于严格的监督和合规性监控，正如报告所指出的那样，目前这还不够。
该报告还批评了国土安全部对商业生成人工智能工具的有条件批准程序。虽然该部门已经建立了一个框架来评估这些工具的准确性、安全性和隐私影响，但监督机制还不够。所有国土安全部人员都必须签署行为规则协议并完成有关负责任地使用人工智能工具的培训。尽管采取了这些措施，但报告建议需要更强有力的治理，以确保这些工具的使用符合道德规范，并有效降低隐私风险。
另一个重大问题是国土安全部未能确保全面报告人工智能用例和相关数据。联邦要求要求国土安全部向其他政府机构和公众报告所有符合条件的人工智能用例，提供透明度和问责制。然而，报告发现国土安全部的报告流程不完整，缺乏关键数据和证据来证明其符合联邦标准。这一缺陷损害了公众的信任，并引发了人们对该部门对人工智能使用道德的承诺的质疑。
“国土安全部制定了流程，根据要求向公众跟踪和报告人工智能的使用情况，但这些流程没有识别和跟踪报告该部人工智能用例所需的一些数据。国土安全部也没有足够的证据来证明为什么它认为其人工智能的使用符合联邦要求，因为国土安全部及其组成部分没有正式的流程来识别、审查和验证该部强制人工智能报告中包含的数据。
IG 审计提出了几项建议来解决这些隐私和治理问题。其中关键是呼吁国土安全部人工智能工作组评估和更新该部门的人工智能战略。此外，敦促人工智能政策工作组制定全面的人工智能风险管理框架并更新现有政策，以反映人工智能技术带来的独特挑战。
为了加强隐私监督，报告建议国土安全部隐私办公室加强其 PCR 流程，包括对所需审查的正式跟踪和开发一种方法来确定酌情 PCR 的优先顺序。此外，建议 CRCL 最终确定其人工智能风险管理框架，并确保为持续的监督活动分配足够的资源。
IG 的调查结果强调，国土安全部在继续将人工智能融入其运营的同时，迫切需要加强其隐私治理结构。监察长表示，如果没有全面的监督，人工智能技术的使用可能会损害个人隐私、公民自由和公众信任。
文章主题
|||||||
