新的国土安全部（DHS）监察长（IG）审计DHS为将AI纳入其运营的努力，同时确保道德治理发现了很大的差距，必须解决这一问题，以使该部门与联邦准则完全结盟并减轻潜在的风险。 IG表示，其全面的审计发现，DHS在AI策略，监督和透明度方面取得了显着步骤，但缺乏针对其AI策略的正式实施计划。
特朗普总统的水域混乱了IG的水域AI行政命令这颠倒了拜登政府实施的政策，该政策强调了AI发展中的监管，透明度和道德保障。上任后，特朗普废除了拜登（Biden）的全面指南，该准则管理联邦AI的使用，反映了政府在技术中的作用的更广泛的意识形态鸿沟。
国土安全部已积极主动建立AI集成的治理框架。它任命了首席AI官（CAIO）监督AI战略，创建了多个工作组，并成立了一个AI工作组来指导AI的采用。此外，DHS制定了企业范围内的AI战略，发布了AI特定的政策，并启动了计划，以监控AI对隐私和公民自由的影响。
尽管DHS概述了目标和优先事项，但由于治理结构不足和资源约束，它并未有效地执行其策略，但陷入困境的IG得出了结论。如果没有全面的实施计划，DHS可能会达到其AI治理目标，这可能会导致意想不到的后果，例如偏见的决策，侵犯隐私和道德问题。鉴于特朗普政府对联邦政府在整个企业中部署AI的混乱方法，尚不清楚是否或哪些补救措施将被整合到政策中。
国土安全部已采取措施确立了AI治理的角色和责任，这在指导AI计划方面起了重要作用，并针对特定AI应用程序（例如生成AI和面部识别技术）实施了治理措施。但是，差距仍在治理执行中。 AI工作队尚未最终确定DHS AI策略的关键更新，而AI风险管理框架仍然不完整。此外，DHS缺乏评估AI遵守联邦隐私和民权规定的简化方法，在AI应用程序中造成了潜在的滥用或意外偏见的风险。
国土安全部的隐私办公室（PRIV）和民权与公民自由办公室（CRCL）负责确保AI系统不会侵蚀隐私保护或侵犯公民自由。但是，两个办公室都面临着资源限制，阻碍了他们进行必要的监督的能力。例如，Priv的隐私合规审查（PCR）流程没有有效跟踪所需的审查，从而导致评估与AI相关的隐私风险的延迟。
同样，CRCL缺乏正式的框架来评估对民权和公民自由侵权的AI申请。结果，DHS无法确保所有AI实施在道德上是合理的，并且在法律上符合法律规定。
联邦法规要求国土安全部报告其AI用例，并确保它们与促进道德AI发展的行政命令保持一致。尽管国土安全部已努力公开披露AI用例，但IG的审计发现未及时报告某些AI应用程序。至少有13例AI用例在要求报告后一年记录了一年，这引起了对该机构保持透明度的能力的担忧。此外，DHS缺乏标准化的过程来验证AI符合联邦准则的依从性，从而导致AI数据报告中存在不一致。
AI具有提高边境安全，灾难响应和网络安全等领域效率的潜力，但是如果没有强大的治理，AI驱动的决定可能会无意中侵犯隐私权，引入偏见或创造安全漏洞。
从IG的审核中出现的一个大问题是在面部识别（FR）和面部捕获（FC）技术中使用AI。尽管国土安全部已经实施了规范这些技术的政策，但审查过程仍然不足，缺乏全面的监督机制增加了错误识别和潜在侵犯隐私的风险，尤其是在执法和与移民有关的应用中。
DHS最近发布了全面报告在该部门的使用中，FR/FC技术强调了在人工智能时代保持安全与公民自由之间保持平衡的重要性。
上周，IG告诉议员他进行审核他们要求评估运输安全管理局（TSA）生物识别筛查系统是否在保护旅客隐私的同时增强安全性。
同样，商业生成AI工具的有条件批准过程，尽管朝着正确方向迈出的一步，但缺乏严格的评估标准。国土安全部对AI供应商的自我评估和有限的内部验证程序的依赖引起了人们对AI生成的产出的安全性和道德意义的担忧。
为了解决这些缺陷，IG的审计包括旨在增强AI监督和合规性的建议。国土安全部必须制定全面的AI战略实施计划，以确保与联邦授权保持一致。加强隐私和公民自由监督至关重要，因为加强PCR过程并正式化CRCL的AI风险评估框架将提高DHS监视与AI相关风险的能力。
标准化AI数据报告将使DHS能够建立正式的过程以跟踪和验证AI用例，从而确保及时，准确的报告。改善AI风险管理至关重要，部门必须完成其AI风险管理框架，以减轻与AI应用程序相关的道德和安全风险。将足够的资源分配给监督办公室将确保私人和CRCL具有足够的人员配备和资金，以实现有效的AI治理。
DHS对AI创新的承诺显而易见，但其治理机制需要大大提高以满足联邦标准。该部门必须通过优先考虑战略执行，增强监督能力并确保AI报告中的透明度来解决IG审核中确定的缺点。通过执行建议的行动，国土安全部可以在保护隐私，公民权利和公共信任的同时利用AI的权力。但是，随着特朗普政府震撼联邦政府如何发展和部署AI，隐私和公民权利的关注只会变得更加关注。
DHS内的一个良好调节的AI生态系统不仅会提高运营效率，而且还将为整个联邦机构的负责人AI采用一个先例。在AI越来越多地塑造国家安全和执法部门的时代，创新与道德治理之间的平衡仍然至关重要。 DHS奠定了基础，但是持续的勤奋和战略改进将决定AI是进步工具还是意外风险的来源。
