美国、英国甚至以色列军队并不羞于承认这一点:他们目前正在试验致命的自主武器系统,也就是说能够在没有人为干预的情况下做出攻击目标的决定。它们通常被称为杀手机器人。
周二推出的 1000 多名研究人员和名人的绝对战斗前景一封公开信因其在布宜诺斯艾利斯国际人工智能会议(IJCAI)开幕式上被禁止。
在签署者中,我们发现了英国天体物理学家斯蒂芬·霍金或苹果公司联合创始人史蒂夫·沃兹尼亚克、诺贝尔物理学奖获得者弗兰克·维尔切克、Skype联合创始人贾恩·塔林以及商人埃隆·马斯克等杰出人物。“自主武器在没有人为干预的情况下选择和打击目标(...)它们被称为继火药和核武器之后战争实践中的第三次革命”,他们写道。
这些机器人能够区分平民和战斗人员吗?
“人工智能(AI)技术已经达到了这样的程度,这些系统的部署即使在法律上不合法,也实际上在几十年内是可行的,但在未来几年内是可行的””,补充道,签署该协议的众多研究人员和教授包括哈佛大学、伯克利大学和剑桥大学、巴黎列日大学和柏林洪堡大学。
这些杀手机器人越来越令联合国、科学家和人道法捍卫者感到担忧。在《联合国特定常规武器公约》的框架内,已经就这一主题在日内瓦召开了两次专家会议。
他们的批评者担心他们无法区分平民和战斗人员,也无法策划对民众造成不成比例影响的袭击。签署者指出,未来的这些武器可能会引起军方的兴趣,因为它们降低了战场上人员伤亡的风险,但它们也降低了参与战斗的成本,并预示着新的军备竞赛。
“与核武器不同,它们不需要昂贵的投资或难以获得原材料(……)它们出现在黑市上并落入恐怖分子、独裁者(..)和军阀手中只是时间问题想要进行种族清洗等»,他们继续。
人工智能“为造福人类提供了巨大的潜力”但他们坚持认为,进攻性武器的设计绝不能抹黑它。对尚不存在的武器实施禁令并非史无前例。 1998年,致盲激光在大规模开发之前就被禁止了。
另请阅读:
很快机器人巡逻艇将保护美国船只– 06/10/2014