联合国秘书长警告世界不要让人工智能控制核武器

联合国秘书长安东尼奥·古特雷斯警告世界不要让人工智能参与发射核武器的决策。

古特雷斯在军备控制协会 (ACA) 会议上发表讲话警告“人类正处于危险之中”，使用核武器的风险“达到冷战以来的最高水平”。

古特雷斯在讲话中表示：“各国正在进行一场质量军备竞赛。人工智能等技术使危险倍增，核讹诈再次出现，一些不顾后果地威胁要造成核灾难，与此同时，旨在防止使用、试验和扩散核武器的制度正在削弱。亲爱的朋友们，我们现在需要裁军。”

秘书长敦促各国裁军，并呼吁那些已经拥有核武器的国家带头。

“我还敦促和俄罗斯联邦回到谈判桌前，全面执行新削减战略武器条约，并就其后续条约达成一致，”他继续说道。“在这些武器被消除之前，所有国家都必须同意，任何有关使用核武器的决定都应由人类做出，而不是由机器或算法做出。”

虽然最后一部分听起来像是一个遥远的威胁，但自动化在冷战中发挥了作用。

如果苏联指挥部被核爆炸摧毁，则确保核毁灭的“死手”系统监测地震活动、辐射水平和气压，以判断是否有核武器向这个超级大国发射。如果系统检测到这样的袭击，它就会检查苏联高层官员之间的通信线路是否畅通。

如果是，它会在 15 分钟后关闭，因为这意味着那些可以决定是否发动袭击的人仍然活着。如果线路断了，那么发动袭击的权力将被转移到受保护掩体内的死亡之手系统的低级操作员，将世界的命运交到低级军官和计算机系统手中。

这套系统从未被激活过，这一点你从你还活着这一点就能看出来。然而，1983 年 9 月 26 日，导弹探测系统似乎探测到五枚核导弹正朝苏联飞来。苏联军官对此探测结果持怀疑态度，拒绝通知苏联指挥部发动报复性打击。结果发现，这一探测结果是由高空云层反射的太阳光引起的，从卫星数据来看，这似乎是一次潜在的打击。

也许我们应该通过算法或人工智能做出的决定可能会毁灭人类。如果由他们决定，人类可能已经因云层而灭绝了。