太快了，对人类来说太危险了：这封信，至少可以说是出乎意料的，于本周三，即 3 月 29 日发表，由数千人签署，其中包括来自科技界和世界各地的领导人。人工智能（人工智能）喜欢埃隆·马斯克和行业专家。所有人都呼吁暂停六个月，这是对人类有益的暂停，敦促世界各地的所有研究中心立即停止对这些先进系统的研究。 “我们呼吁所有人工智能实验室立即停止训练比 GPT-4 更强大的人工智能系统，至少六个月», 他们在序言中写道。
«只有当我们确定其效果是积极的且风险可控时，才应该开发强大的人工智能系统»，他们在这封由非营利组织生命未来研究所发表的信中补充道。本周三，即 3 月 29 日下午，已有 1,123 人签署，其中包括特斯拉和 Twitter 老板埃隆·马斯克 (Elon Musk)、苹果公司联合创始人史蒂夫·沃兹尼亚克 (Steve Wozniak)、Alphabet 旗下 DeepMind 的研究人员等科技和人工智能人物。 ——谷歌的母公司，甚至是 Yoshua Bengio、Stuart Russell 和 Gary Marcus 等人工智能人物。这些人要求在恢复任何开发之前，由独立专家制定、实施和验证道德和透明的安全协议。
“我们应该自动化所有工作，包括有报酬的工作吗？ »
在提到的风险中，这封信以危言耸听的语气强调“失去对我们文明的控制»。铯 «近几个月来，人工智能实验室陷入了一场不受控制的竞赛，以开发和部署更强大的数字思维，没有人（甚至是其创造者）能够可靠地理解、预测或控制。»，写下它的作者。他们邀请所有研究该主题的研究小组与监管机构携手合作。
这封信还特别提到了人工智能可能对我们社会产生的具体后果，并问道：“我们应该让机器用宣传和谎言充斥我们的信息渠道吗？我们是否应该自动化所有工作，包括有报酬的工作”，喜欢那些给我们带来成就感的人？这足以呼应一个简单的问题，这是英国作家抄袭受害者苏西·阿莱格里几周前提出的：“为什么不直接用人工智能来取代我们不喜欢做的事情呢？»
这封信会被执行吗？
«文字并不完美，但精神是正确的：我们需要放慢脚步，直到我们更好地理解其后果»（人工智能），这封信的签署人之一加里·马库斯教授向我们的同事宣称路透社，3 月 29 日这个星期三。这封信会跟进吗？目前正在进行真正的人工智能竞赛的公司会在这六个月的停工期间冒着被超越的风险吗？这封信要求无论如何，这次中断是“公开且可验证”。如果“这种暂停不可能很快实施，政府必须进行干预并暂停”，这样写道。
另请阅读： 人工智能疑似逼迫一名男子自杀
这封信还加入了许多其他呼吁，要求对这些系统进行测量、反映和控制，但迄今为止都徒劳无功。本周三，欧盟警方国际刑警组织警告人们不要滥用 ChatGPT 来实施网络钓鱼、虚假信息和网络犯罪。所有这些呼吁最终可能会削弱大多数人工智能行业公司目前的地位——这一地位被描述为边缘就像“现在发货并稍后修复”，可以翻译为“我们现在开始，我们将修复（如果需要的话稍后）”。问题：对于人工智能来说，这个“维修» 可能是不可能的。
来源 ： 生命未来研究所的公开信
