科技巨头呼吁暂停人工智能实验，担心“对社会造成巨大风险”
（奇野雄一郎/时刻/盖蒂图片社）
亿万富翁周三，多位专家呼吁暂停开发强大的技术（人工智能）系统留出时间来确保它们的安全。
一个打开信封迄今为止，已有 1000 多人签名，其中包括马斯克和苹果联合创始人史蒂夫·沃兹尼亚克 (Steve Wozniak)来自微软支持的 OpenAI 公司。
该公司表示，其最新模型比之前的版本强大得多，后者用于为 ChatGPT 提供支持，ChatGPT 是一个能够根据最简短的提示生成大量文本的机器人。
“具有人类竞争情报的人工智能系统可能会给社会和人类带来深远的风险，”打开信封标题为“暂停巨型人工智能实验”。
报告称：“只有当我们确信其效果将是积极的且风险可控时，才应该开发强大的人工智能系统。”
马斯克是 OpenAI 的初始投资者，并在其董事会任职多年，他的汽车公司特斯拉开发人工智能系统，以帮助其自动驾驶技术和其他应用提供动力。
这封信由马斯克资助的未来生命研究所主办，由著名批评者以及 OpenAI 的竞争对手（例如 Stability AI 负责人 Emad Mostaque）签署。
加拿大人工智能先驱 Yoshua Bengio（也是签署者）在蒙特利尔举行的虚拟新闻发布会上警告说，“社会还没有准备好”应对这一强大的工具及其可能的滥用。
“让我们放慢速度。让我们确保开发出更好的护栏，”他说，并呼吁对人工智能及其影响进行彻底的国际讨论，“就像我们对核能和核武器所做的那样。”
“值得信赖和忠诚”
这封信引用 OpenAI 创始人 Sam Altman 撰写的博客，他建议“在某些时候，在开始训练未来系统之前获得独立审查可能很重要”。
“我们同意。现在就是这一点，”该书的作者笔信写道。
“因此，我们呼吁所有 AI 实验室立即暂停至少 6 个月的比 GPT-4 更强大的 AI 系统的训练。”
他们呼吁政府介入，如果公司不同意，则实施暂停。
这六个月应该用来开发安全协议、人工智能治理系统，并重新将研究重点放在确保人工智能系统更加准确、安全、“值得信赖和忠诚”上。
信中没有详细说明GPT-4所揭示的危险。
但包括签署这封信的纽约大学加里·马库斯在内的研究人员长期以来一直认为聊天机器人是并且有可能成为虚假信息的超级传播者。
？然而，作者科里·多克托罗比较过人工智能行业采取“拉高抛售”计划，认为人工智能系统的潜力和威胁都被过分夸大了。
