在美国关键基础设施部门对人工智能的使用缺乏“全面监管”的情况下，国土安全部（DHS）发布了“同类首例”战略计划指导人工智能在国家关键基础设施中安全可靠的集成。一项得到行业支持的计划。
国土安全部表示，其新框架“是由人工智能供应链每一层的实体开发并为之服务的：云和计算提供商、人工智能开发商、关键基础设施所有者和运营商，以及保护和倡导消费者的民间社会和公共部门实体。”
这关键基础设施中人工智能的角色和责任框架这是确保人工智能技术以增强安全性、弹性和公众信任的方式融入国家关键基础设施的重要一步。通过明确定义所有利益相关者的角色和责任，该框架旨在营造一个协作环境，在该环境中可以安全有效地利用人工智能来支持基本服务。
该框架解决了人工智能技术在能源、水、交通和电信等关键基础设施领域不断增加的部署问题，旨在为各利益相关者的角色和责任提供明确的指导，以确保人工智能应用在不损害安全和安保的情况下增强这些部门的弹性和效率。
国土安全部在一份声明中表示，“如果参与美国关键基础设施人工智能开发、使用和部署的利益相关者采用和实施，这一自愿框架将加强安全和安保实践的协调并帮助实施，改善关键服务的提供，增强实体之间的信任和透明度，保护公民权利和公民自由，并推进人工智能安全和安保研究，这将进一步使关键基础设施能够负责任地部署新兴技术。”
该框架是行业领导者、民间社会和公共部门实体共同努力的成果，是在国土安全部新成立的国土安全部的指导下制定的。人工智能安全与安保委员会(AISSB)。
拜登总统 2023 年 10 月要求站立行政命令关于安全、可靠和值得信赖的人工智能，该委员会于 5 月份由国土安全部部长亚历杭德罗·马约卡斯 (Alejandro Mayorkas) 首次召集，当时董事会成员发现了一些影响人工智能安全使用和部署的问题，包括缺乏部署人工智能的通用方法、物理安全缺陷以及不愿在行业内共享信息。
该委员会就在国家关键基础设施中安全、可靠和负责任地开发和部署人工智能技术向国土安全部部长、关键基础设施社区、其他私营部门利益相关者以及更广泛的公众提供建议。该委员会的任务是制定建议，帮助关键基础设施利益相关者（例如运输服务提供商、管道和电网运营商以及互联网服务提供商）负责任地利用人工智能技术。它还将制定建议，以防止和准备与人工智能相关的对影响国家或经济安全、公共健康或安全的关键服务的干扰。
国土安全部框架补充了其他联邦举措，例如国家标准与技术研究所的，针对关键基础设施的独特挑战提供针对具体部门的指导。
在宣布该框架时，马约卡斯在一份声明中表示，“人工智能为提高美国关键基础设施的强度和弹性提供了千载难逢的机会，我们必须抓住它，同时尽量减少其潜在危害。”
马约卡斯表示，“该框架......将在很大程度上确保关键服务的安全性和保障，这些服务提供清洁的水、稳定的电力、互联网接入等。参与创建人工智能的组织和个人今天做出的选择将决定这项技术明天对我们的关键基础设施产生的影响。”
在新闻发布会上，Mayorkas 补充道，“在组建 [AISSB] 时，我寻找的成员都是各自领域的领导者，他们共同代表了定义人工智能在关键基础设施中部署的生态系统的每个组成部分。我们……组建了这样一个委员会，由云和计算基础设施提供商、人工智能模型开发人员、关键基础设施所有者和运营商、民间社会和公共部门的领导者组成。我们相信，我们关键基础设施的安全和安保是我们的共同责任。”
马约卡斯补充说，他“希望董事会成员实施这些指导方针，促进各自领域和整个生态系统的其他组织，[并]采用和实施这些指导方针。”
国土安全部部长还表示，国土安全部正在寻求在国际上协调人工智能标准。马约卡斯说：“我们已经说过，我们不仅希望确保这些指导方针在国内得到采纳和实施，而且在大西洋彼岸的国际上也得到采用和实施。”
商务部长吉娜·雷蒙多表示，“该框架将补充我们在商务部所做的工作，以帮助确保人工智能在我们的关键基础设施中负责任地部署，以帮助保护我们的美国同胞并确保美国经济的未来。”
Anthropic 首席执行官兼联合创始人 Dario Amodei 表示：“该框架正确地认识到人工智能系统可能为关键基础设施带来机遇和挑战。其以开发人员为中心的条款强调了评估模型功能、执行安全测试和构建安全内部系统的重要性。随着我们对人工智能功能及其对关键基础设施影响的理解不断发展，这些是需要持续分析和讨论的关键领域。”
该框架界定了人工智能供应链不同层的职责。
云和计算基础设施提供商需要保护用于开发和部署人工智能的环境，包括审查硬件和软件供应商、实施强大的访问管理以及确保数据中心的物理安全。
鼓励人工智能开发人员采用“设计安全”方法，评估人工智能模型的潜在危险能力，并确保与以人为本的价值观保持一致。还建议他们实施强有力的隐私实践，并支持对存在较高风险的模型进行独立评估。
在该框架下，关键基础设施所有者和运营商有责任维护强有力的网络安全实践，以应对人工智能相关风险、保护客户数据并提供人工智能使用的透明度。还鼓励他们监控人工智能系统性能并分享结果，以增进对现实场景中模型行为的理解。
敦促大学、研究机构和公民社会的消费者权益倡导者参与标准制定，针对关键基础设施开展人工智能评估研究，并告知影响人工智能系统开发的价值观和保障措施。
联邦、州、地方、部落和地区政府在支持负责任地采用人工智能、提高人工智能安全实践标准以及开展国际合作以保护全球公民方面发挥着至关重要的作用。
该框架将人工智能相关风险分为三个主要领域：使用人工智能的攻击、针对人工智能系统的攻击以及人工智能设计和实施的失败。
为了减轻这些风险，该框架提供了几项建议：
- 采用安全设计方法：在整个人工智能开发生命周期中集成安全措施，以防止漏洞。
- 进行全面的风险评估：定期评估人工智能系统的潜在威胁和漏洞，同时考虑技术和运营方面。
- 增强透明度和问责制：保留人工智能系统功能和决策流程的清晰文档，以促进问责制和信任。
- 促进跨部门合作：鼓励利益相关者之间的信息共享和共同努力，以应对共同挑战并制定统一标准。
文章主题
||||||
