美国国土安全部 (DHS) 刚刚发布公共部门生成人工智能部署手册概述了将生成人工智能（GenAI）负责任地整合到公共部门运营中的综合框架。该报告优先考虑了隐私、安全、公民权利、透明度和在线身份验证等关键考虑因素。
国土安全部表示：“该手册旨在满足任何处于理解人工智能技术并将其融入工作过程中的组织的需求。任何公共部门组织都可以从今天开始评估和收集资源，培养内部支持，并为 GenAI 的有效部署奠定基础。”
国土安全部首席信息官埃里克·海森 (Eric Hysen) 表示：“这本手册的发布标志着我们在公共部门负责任、有效地整合安全可靠的人工智能使用方面向前迈出了重要一步。” “通过分享我们的经验和最佳实践，我们的目标是让其他政府机构能够利用人工智能，增强其使命，同时保护其所服务的个人的权利和隐私。”
国土安全部表示，“GenAI 的快速发展和商业化为 [国土安全部] 和各级公共部门组织带来了重大机遇和挑战”，并指出“根据强调负责任地部署人工智能技术的第 14110 号行政命令， [it] 已主动启动 GenAI 试点计划，以探索其在增强我们的任务能力方面的潜力。”
国土安全部表示：“这些试点举措为 GenAI 在我们的运营中的实际应用提供了宝贵的见解，并强调了对人工智能集成采取审慎且深思熟虑的方法的重要性，确保我们的部署负责任、值得信赖和有效，同时保护隐私、公民权利和公民自由。”
今年早些时候，国土安全部发布了一份人工智能路线图描述其计划同时确保个人隐私权、公民权利和公民自由受到保护。
该手册的中心主题之一是在 GenAI 部署期间保护个人隐私。国土安全部强调对敏感数据的处理进行严格控制，特别是在 GenAI 与公共或个人信息交互的情况下。为了降低风险，国土安全部需要明确的指导方针来定义哪些数据可以与 GenAI 系统共享并限制未经授权的使用。
国土安全部表示，隐私影响评估是该框架的组成部分，可确保 GenAI 的所有使用均符合联邦隐私法律和法规。此外，该手册要求人类监督评估 GenAI 的输出，强化了这些工具必须补充人类决策而不是完全取代人类决策的原则。通过将隐私专业人员纳入试点综合项目团队，国土安全部创建了一种积极主动的隐私管理文化，最大限度地减少数据泄露或敏感信息无意泄露等风险。
该手册还强调了实施 GenAI 系统时采取强有力的网络安全措施的必要性。认识到人工智能系统固有的潜在漏洞，国土安全部制定了针对关键基础设施和公共部门应用程序的安全指南。这些措施包括全面的风险评估、对抗稳健性的系统测试以及严格遵守现有的网络安全协议。
GenAI 部署必须集成到安全的 IT 环境中，这通常需要自定义配置或使用专门的模型，例如用于离线操作的开放式 AI 系统。国土安全部表示，这种适应性对于数据安全至关重要的执法调查或移民服务等敏感应用尤其重要。该手册还建议持续监控 GenAI 工具，以便及早发现和缓解安全威胁。
确保 GenAI 的道德应用是国土安全部框架的基石。该手册反复强调了将人工智能的使用与宪法权利、公民自由和反歧视法结合起来的重要性。 GenAI 不得延续或加剧偏见，无论是在训练数据还是其输出中。这一原则在移民处理等领域至关重要，任何算法偏差都可能对个人产生重大影响。
为了保障公民权利，国土安全部表示，它已将包括公民自由专家在内的监督专业人员纳入试点过程的每个阶段。这种协作方法可以实时识别风险并实施纠正措施，从而增强对 GenAI 系统的信任。例如，GenAI 工具对透明度和可解释性的要求确保包括公众在内的所有利益相关者都能理解决策是如何做出的。
透明度对于在 GenAI 部署中建立信任至关重要。国土安全部表示，它已承诺通过其人工智能用例清单公开共享 GenAI 的非敏感用途，该资源旨在向公众和其他利益相关者通报整个部门的人工智能应用情况。这一举措符合政府对人工智能系统问责制的更广泛要求。
该手册还强调了迭代反馈和可用性测试对于完善 GenAI 工具的重要性。内部和外部利益相关者的参与是一个反复出现的主题。国土安全部表示，通过征求用户、监督机构和公众的意见，它已经建立了一些机制来提高系统透明度和可用性，同时解决新出现的问题。
虽然不是主要关注点，但该手册还解决了 GenAI 部署中的在线身份验证挑战。确保与 GenAI 交互的用户和系统经过正确的身份验证是一项基本的安全措施。 DHS 提议将 GenAI 与现有身份验证框架（例如多因素身份验证和数字身份验证）集成，以增强系统完整性。这些保护措施在涉及访问机密数据或高风险决策环境的应用程序中尤其重要。
该手册将负责任的 GenAI 使用定义为使人工智能系统与民主价值观和社会目标保持一致。可信度是通过可靠性、安全性、透明性和公平性等特征来实现的。为了落实这些原则，国土安全部制定了评估 GenAI 系统的综合指南，包括其准确性、可解释性以及对公民权利的潜在影响。
DHS 还制定了培训计划，以确保员工充分了解 GenAI 的功能和局限性。这些计划旨在在整个国土安全部企业中灌输对负责任的人工智能实践的共同理解。国土安全部表示，这种方法不仅可以降低风险，还可以培育道德创新文化。
该手册还提倡采用结构化治理模式，将不同的利益相关者（从技术专家到公民自由专业人士）纳入其中。国土安全部表示，通过建立跨职能团队，它确保了 GenAI 部署受益于广泛的专业知识和观点。治理结构还提供了一个框架来解决 GenAI 带来的道德、法律和运营挑战。
这国土安全部公共部门 GenAI 部署手册代表着将人工智能负责任地融入政府运作的关键一步。通过解决隐私、安全、公民权利、透明度和在线身份验证问题，该框架确保 GenAI 部署既有效又符合社会价值观。
该手册的整体方法不仅可以降低风险，还为公共部门组织如何以负责任和道德的方式利用人工智能的变革潜力制定了标准。随着国土安全部不断完善其战略，其行动手册成为推进值得信赖的人工智能服务公共利益的基本指南。
文章主题
||||||
