白宫的新之家国家安全备忘录(NSM)实施总统乔·拜登(Joe Biden)的2023年10月行政命令在安全,安全和值得信赖的人工智能发展和使用,施加了国防部(国防部)和情报界(IC)必须采取的行动,以保护和使用AI技术时保护隐私和公民权利。
NSM是Biden的2023 AI行政命令的要求。相关文档,促进国家安全中AI治理和风险管理的框架,与NSM同时出版。
特别是,NSM要求DOD和IC咨询司法部(DOJ)“审查其各自的法律,政策,公民自由,隐私和合规框架,包括国际法律义务……与适用法律一致”。
该政策还要求DOD和IC“制定或修改政策和程序,以实现有效和负责任的AI”,这些问题专门解决了“通过收购,使用,保留,保留,传播,传播,传播和处置在数据集中培训的任何问题,这些模型在数据集中培训,这些模型包括可追溯到特定的美国个人信息,公开可用信息,可用信息,可用的信息,可用信息,可用信息,可用的信息,可用的信息,可用的信息,以及销售信息,以及销售信息,和智力。''''''''
此外,司法部必须与国防部协商和国家情报主任办公室(ODNI)建立指导,“关于IC的收购和AI的收购和使用构成的宪法考虑”,以及与分类和分类相关的任何挑战;算法偏差,性能不一致,输出不正确和其他已知的AI失败模式;使用AI工具时,对分析完整性的威胁;以及缺乏保护人权,公民权利,公民自由,隐私和其他民主价值观的保障措施所带来的任何风险。
国防部,ODNI,商业,能源和国土安全部,国家安全局,国家地理空间 - 智能局和国家科学基金会都受到NSM的任务,“优先考虑对AI安全和信任度的研究,并与领先的公共部门,工业,工业,工业,工业,工业,工业,工业,工业,工业,工业,工业,工业,工业,工业,工业,工业,工业,工业,工业,工业,工业,工业,工业,工业,以及AI安全性和可信赖性的技术和社会技术进步。”
The NSM says “this work may include research on interpretability, formal methods, privacy enhancing technologies, techniques to address risks to civil liberties and human rights, human-AI interaction, and/or the socio-technical effects of detecting and labeling synthetic and authentic content; for example, to address the malicious use of AI to generate misleading videos or images, including those of a strategically damaging or non-consensual intimate自然,政治或公众人物。”
40页的NSM涵盖了一系列不同的问题,“迄今为止,美国国家安全战略和人工智能的政策是迄今为止最全面的表达”,”写格雷戈里·艾伦(Gregory Allen),战略与国际研究中心Wadhwani AI中心主任,国防部联合人工智能中心的战略与政策总监,Wadhwani AI中心研究助理Isaac Goldston。
他们说,NSM“与AI行政命令不同,主要忽略了在2012 - 2022年期限内开发和部署的AI技术,”和“完全关注Frontier AI模型。”
NSM正式将Frontier模型定义为“绩效最先进的通用AI系统,如广泛接受的公共可用基准或对推理,科学和整体能力的类似评估所衡量的。”
NSM表达了拜登政府对边境AI技术的担忧,这将其视为迫切的国家安全优先事项。 The NSM states that “recent innovations have spurred not only an increase in AI use throughout society, but also a paradigm shift within the AI field . . . This trend is most evident with the rise of large language models, but it extends to a broader class of increasingly general-purpose and computationally intensive systems. The United States government must urgently consider how this current AI paradigm specifically could transform the national security mission.”
NSM表示:“ AI已成为一种定义时代的技术,并且与国家安全具有重要意义和日益相关”,并且“美国必须领导世界,负责AI在适当的国家安全功能上负责AI。但是,如果滥用它,“可能威胁到美国国家安全,在全球范围内加强威权主义,破坏民主机构和程序,促进侵犯人权的侵犯,并削弱基于规则的国际秩序。”
NSM警告说:“如果AI系统和过程缺乏足够的保护,即使没有恶意意图,也可能会发生有害结果。”
新的备忘录“在美国政府,尤其是在国家安全系统的背景下,在适当利用人工智能模型和支持AI的技术方面提供了进一步的指导,同时保护人权,公民权利,公民自由,隐私和安全的国家安全活动。”
在炉边聊天” 10月24日,在华盛顿特区的国防大学,国家安全事务总统助理杰克·沙利文(Jake Sullivan)明确将AI革命比作核和太空等早期变革性的国家安全技术。
CSIS的艾伦(Allen)和戈德斯顿(Goldston)表示:“政府官员告诉CSIS,这些技术的一些关键的美国早期国家安全策略文件是创建AI NSM的直接灵感。例如,NSC-68在1950年出版,在1950年出版,在冷战早期的核武器和常规武器中,涉及到核心的核能。并不提倡大规模的武器积累,但比较确实有助于说明拜登政府认为AI NSM是一份具有里程碑意义的文件,该文件阐明了针对变革性技术的全面战略。”
的确。一个事实说明书on the NSM states the policy “is designed to galvanize federal government adoption of AI to advance the national security mission, including by ensuring that such adoption reflects democratic values and protects human rights, civil rights, civil liberties, and privacy. In addition, the NSM seeks to shape international norms around AI use to reflect those same democratic values and directs actions to track and counter adversary development and use of AI for national security purposes.”
NSM表示:“美国必须理解AI的局限性,因为它可以利用该技术的益处,并且任何使用AI都必须尊重民主价值观,以透明,人权,公民权利,公民自由,隐私和安全性。”
NSM此外,NSM表示:“政府必须继续培养一个稳定的负责任的框架,以推进国际AI治理,从而促进安全,安全和可信赖的AI发展和使用;管理AI的风险;实现民主价值;尊重人权,公民权利,公民自由和隐私;并从AI中促进全球受益。
商务部,通过AI安全研究所在国家标准研究所,被指定为与私营部门AI开发人员的主要接触点,“促进了前公共部署和后公共部署测试,以确保安全,安全和信任度AI模型。”
商务部还负责建立“代表政府对前沿AI模型进行自愿的未分类前的预部部门安全测试,包括评估与网络安全,生物安全性,化学武器,系统自治以及其他适当风险相关的风险的评估。”
NSM的分类附件解决了敏感的国家安全问题,包括对抗对AI的对抗使用,这对美国国家安全构成风险。