在一个视频于2017年底疯传，我们看到参与政治的学生被一群自主微型无人机识别并击落。显然，这是一个虚构的序列，具有可怕的现实主义色彩。
它由协会制作，旨在提醒公众注意杀手机器人即将到来的危险。
从技术上讲，这类武器被称为“SALA”（致命自主武器系统），即能够自行选择人类目标并发射的系统。今天在公众舆论中引起恐惧的前景：根据非政府组织联盟委托益普索 (Ipsos) 委托进行的一项调查，59% 的法国人表示他们反对杀手机器人阻止杀手机器人的露营 并于年初向社会公布。
一场激烈的辩论
埃隆·马斯克、Demis Hassibis（DeepMind 的）、诺姆·乔姆斯基、比尔·盖茨、史蒂夫·沃兹尼亚克、Yann LeCun 和已故的斯蒂芬·霍金等名人都在请愿书中呼吁禁止它们。奥地利、巴西和智利等 28 个国家也持同样立场。以及像这样的重量级人物泰雷兹甚至开始承诺不生产杀手机器人。
但许多安全专家对这场辩论所引发的热情感到恼火，据他们说，这助长了所有的幻想。“我想说，实际上，每个人都反对杀手机器人。因为自主系统的首要目标不是杀死人类””，利摩日大学网络防御和网络安全研究员蒂埃里·贝尔蒂尔 (Thierry Berthier) 说。“问题是要知道我们在正在进行的军备自动化过程中想走多远。已经用机枪监视朝鲜边境的机器人哨兵明天会自行开火吗？执行情报任务的自主舰船是否会决定用鱼雷攻击敌人？ »，他问自己。
显然，所有军队的自动化进程正在进行中。我们正在向多任务和多功能系统迈进，我们可以在其中增加做出杀戮决定的能力。
恐怖分子已经可以制造杀手机器人
SALA的技术现实如何？已经有自动响应系统来应对所谓的饱和攻击。以色列铁穹就是这种情况，它能够在面对炮弹和火箭弹射击时触发导弹齐射。但消灭它们的最初决定仍然是由人类操作员做出的。如今，世界上还没有正式使用的杀手机器人。
« 但这是技术现实””，军备天文台研究经理托尼·福廷告诉我们。« 在硬件层面，自己制造杀手机器人已经成为可能。这些组件可以在商业上免费获得，引发了恐怖分子可能夺取它们的担忧。，他警告说。去年夏天委内瑞拉对尼古拉斯·马杜罗的未遂袭击证明，简单的大疆民用无人机装载炸药是可能的。
2030 年自主武器
除了 DIY 之外，非常认真的军火公司也开始开发更复杂的系统，能够完全自主运行，特别依赖人工智能的进步。
以色列通用机器人公司就是一个例子，该公司销售 Dogo 战术机器人，顶部配备 9 毫米口径的 Glock 29。它提供了控制射击的可能性……或者让它发生。我们还可以引用卡拉什尼科夫的例子，他声称想要开发一种新的产品类别，其中包含能够自行做出杀人决定的人工智能。无论如何，这是其一位发言人在 2017 年告诉俄罗斯通讯社塔斯社的内容。
这美国、以色列、中国和俄罗斯是这些新兴技术最先进的国家……并且是反对禁止杀手机器人的国家之一。托尼·福廷 (Tony Fortin) 表示，到 2030 年，他们很可能能够部署一些。但在此之前，他们必须克服两个技术限制。“为了长期使用自主武器，存在自主性问题，这个问题还没有解决。还有人工智能适应环境和随机做出决策的能力”，他观察到。
可以禁止吗？
SALA 带来了许多道德和法律问题，其使用违反了人权原则和国际条约，而人类仍然是核心问题。机器没有同情心，也不知道生命的代价。这种情况下让她做出杀人的决定合理吗？谁将为他们的行为负责？这些系统也引发了安全问题。旨在劫持和操纵杀手机器人的计算机攻击难道不令人恐惧吗？
对于国际特赦组织武器和国际司法倡导负责人艾默里克·埃鲁因来说，防止为时已晚的唯一解决方案就是今天就禁止这些设备。如果迄今为止在联合国或在日内瓦关于某些常规武器的武器公约框架内进行的所有谈判尝试都失败了，那就太糟糕了。 “并非所有国家都签署了禁止杀伤人员地雷的协议。但它们的禁令构成了一种压力工具，并使那些摆脱禁令的国家蒙受耻辱，从而导致其使用量的下降”。
“杀手机器人还不存在并不意味着它们不应该被禁止”” 人权观察法国办公室主任贝内迪克特·让纳罗德 (Bénédicte Jeannerod) 补充道。 “哦例如，在致盲激光武器进入市场之前就成功禁止了它们”。
法国在两场大火、两种愿望之间
法国的立场是微妙的。一方面，她不放过任何一个机会提醒我们，男人仍然处于命令循环之中。
“法国的学说确认了两个原则，对所有正在服役或正在开发的系统都有效：指挥部始终对武器系统的使用负责，而机器仍然服从于人：它不能单独决定”概念、理论和实验联合中心副主任帕特里克·贝宗贝斯 (Patrick Bezombes) 解释道。但我国也没有采取支持禁止SALA的立场。如果这个问题没有得到解决，那是因为法国担心已经提到的以色列、中国、俄罗斯和美国等国家在这一领域的野心。因此，需要做出一个冒着孤立和脆弱风险的地缘战略选择。
“选择禁止这些完全自主武器系统的国家（如果它们存在的话）将同意自行解除武装。至于法国，我们将在我们的系统中开发人工智能的使用，这是毫无疑问的。与所有军事技术一样，我们将按照我们的国际承诺和人道主义法负责任地这样做。”，进一步指定帕特里克·贝宗贝斯。
然而，人权观察并不绝望地看到我国改变立场。“这显然不是法国单独禁止杀手机器人的问题。但它可以引领一个大型国家联盟并在国际层面引发一场运动”，她建议道。当选后不久，埃马纽埃尔·马克龙在美国杂志上就这个话题发表了讲话有线。“我反对那样”，他宣称关于杀手机器人，坚信人类必须始终对机器负责并做出射击的决定。现在由他，军队的统帅来决定。
