美国军方正在加强对自主武器开发和使用的承诺,更新的文件证实了这一点国防部指令。
该更新于 2023 年 1 月 25 日发布,是十年来首次重点关注自主武器。 它遵循一个相关的实施计划北约于 2022 年 10 月 13 日发布了该协议,旨在保持联盟在有时被称为“杀手机器人”方面的“技术优势”。
这两项声明都反映了世界各国军队从最近的战斗行动中吸取的重要教训乌克兰和纳戈尔诺-卡拉巴赫:武器化人工智能是战争的未来。
“我们知道,指挥官们看到了乌克兰徘徊弹药的军事价值,”国防部长理查德·莫耶斯说。第三十六条一个致力于减少武器伤害的人道主义组织在接受采访时告诉我。
这些武器是炸弹和无人机的结合体,可以在等待目标时长时间悬停。 他说,目前,这种半自主导弹的运行通常需要人工对关键决策进行重大控制。
战争压力
但随着乌克兰伤亡人数不断增加,使用完全自主武器取得决定性战场优势的压力是否也随之增加? 机器人可以自行选择、追捕和攻击目标,无需任何人类监督。
本月,俄罗斯一家重要制造商公布的计划开发其Marker侦察机器人的新战斗版本,这是一种无人驾驶的地面车辆,以增强乌克兰的现有部队。
完全自主的无人机已经被用于保卫乌克兰能源设施来自其他无人机。 瓦希德·纳瓦比(Wahid Nawabi),制造半自动驾驶汽车的美国国防承包商首席执行官弹簧刀无人机,说这项技术是已经触手可及将这些武器转变为完全自主的。
“Android 技术”和“高级研究基金会”(FPI) 测试了在俄罗斯航天港(东方航天发射场)执行巡逻任务的 Marker UGV。#ugv #无人 #unrewed #机器人学 #俄罗斯联邦 #战斗 #巡逻 #安全 #自治 #自动驾驶汽车 pic.twitter.com/jbIX7GQPzU
? 梅兰妮·罗弗里(@MelanieRovery)2021 年 10 月 8 日
乌克兰数字化转型部长米哈伊洛·费多罗夫认为,完全自主的武器是战争的“合乎逻辑且不可避免的下一步”并最近表示,士兵们可能会在未来六个月内在战场上看到它们。
全自主武器系统的支持者认为该技术将使士兵免受伤害让他们远离战场。 它们还将允许以超人的速度做出军事决策,从而从根本上提高防御能力。
目前,半自主武器,例如跟踪目标并在目标上引爆的徘徊弹药,需要“人在回路中”。 他们可以建议采取行动,但要求操作员启动这些行动。
相比之下,完全自主的无人机,就像所谓的“无人机猎人“ 现在部署在乌克兰,可以日夜跟踪和禁用来袭的无人机,无需操作员干预,并且速度比人控武器系统更快。
要求暂停
批评家喜欢阻止杀手机器人的运动十多年来一直主张禁止自主武器系统的研究和开发。 他们指出,未来自主武器系统将专门针对人类而设计,而不仅仅是车辆、基础设施和其他武器。
他们认为,战时生死的决定必须掌握在人类手中。 将它们转化为算法相当于最终形式数字非人化。
和...一起人权观察阻止杀手机器人运动认为,自主武器系统缺乏区分平民和合法军事目标所需的人类判断力。 它们还通过减少可感知的风险来降低战争的门槛,并削弱人类对战场上发生的事情的有意义的控制。
这些组织认为,军队投资最多包括美国、俄罗斯、中国、韩国和欧盟在内的自主武器系统领域的国家正在将世界带入一场代价高昂且破坏稳定的新军备竞赛。 一个后果可能是这项危险的新技术陷入困境恐怖分子和政府控制之外的其他人之手。
更新后的国防部指令试图解决一些关键问题。 它宣称美国将使用自主武器系统“对使用武力的适当程度的人类判断”。
人权观察发表声明表示新指令未能明确“适当水平”一词的含义,也没有为由谁来确定该水平制定指导方针。
但正如国防和国际关系智库专家格雷戈里·艾伦所说战略与国际研究中心,争论说,这种语言设立较低的门槛比批评者所要求的“有意义的人类控制”更重要。
他指出,国防部的措辞允许在某些情况下,例如侦察机,被认为适当的人类控制水平“可能几乎没有”。
更新后的指令还包括承诺以合乎道德的方式使用自主武器系统,特别是建立开发和使用该技术的监督系统,并坚持按照现有的国际战争法使用这些武器。
但第 36 条的莫耶斯指出,国际法目前并未提供充分的框架来理解武器自主权的概念,更不用说规范武器自主权的概念了。
例如,当前的法律框架没有明确规定指挥官有责任了解什么会触发他们使用的系统,或者他们必须限制这些系统运行的区域和时间。
莫耶斯说:“危险在于,我们现在的处境与我们已经接受的不可接受的情况之间并没有明确的界限。”
不可能的平衡?
五角大楼的更新表明了对部署自主武器系统和遵守国际人道主义法的同时承诺。 美国将如何平衡这些承诺,以及这种平衡是否可能,还有待观察。
国际人道法的守护者红十字国际委员会坚持认为,指挥官和操作人员的法律义务“无法转移到机器、算法或武器系统” 目前,人类有责任通过确保使用武力与军事目标相称来保护平民并限制战斗损害。
如果人工智能武器部署在战场上,当发生不必要的平民死亡时,谁应该承担责任? 这个非常重要的问题没有明确的答案。