（Yuichiro Chino/Moment/Getty Images）
亿万富翁大亨一系列专家在周三呼吁停止发展强大的（AI）系统以确保它们安全的系统。
一个公开信到目前为止，由1000多人签署，包括马斯克和苹果联合创始人史蒂夫·沃兹尼亚克来自Microsoft支持的公司Openai。
该公司表示，其最新型号比以前的版本强大得多，该版本用于供电Chatgpt，该版本能够从最简短的提示中生成文本的机器人。
“具有人竞争情报的人工智能系统可能会对社会和人类构成深远的风险。”公开信标题为“暂停巨人AI实验”。
它说：“只有一旦我们确信它们的效果将是积极的，并且它们的风险将是可以管理的，才应开发强大的AI系统。”
马斯克（Musk）是Openai的最初投资者，在其董事会上度过了多年，他的汽车公司Tesla开发了AI系统，以帮助其自动驾驶技术和其他应用以及其他应用。
这封信由穆斯克资助的生命研究所（Life Institute）的未来主持，由著名的批评家以及Openai的竞争对手签署，例如稳定性AI负责人Emad Mostaque。
加拿大AI先驱Yoshua Bengio，也是签署人，在蒙特利尔的虚拟新闻发布会上警告说，这种强大的工具及其可能的滥用。
他说：“让我们放慢脚步。让我们确保我们开发更好的护栏。”他呼吁对AI及其含义进行彻底的国际讨论，就像我们为核电和核武器所做的那样。”
“值得信赖和忠诚”
这封信从Openai创始人Sam Altman撰写的博客中引用，他建议“在某个时候，在开始培训未来系统之前进行独立审查可能很重要”。
“我们同意。这一点是现在，” O的作者笔信写道。
“因此，我们呼吁所有AI实验室立即暂停至少6个月，对AI系统的培训比GPT-4更强大。”
他们呼吁政府介入并施加暂停，如果公司不同意。
应使用六个月来制定安全协议，AI治理系统，并重新专注于确保AI系统更准确，安全，“可信赖和忠诚”的研究。
这封信没有详细说明GPT-4揭示的危险。
但是签署这封信的纽约大学的加里·马库斯（Gary Marcus）在内的研究人员长期以来一直认为聊天机器人是并有可能成为虚假信息的超级传播者。
但是，作者科里·医生比较了人工智能行业针对“泵和垃圾场”计划，认为AI系统的潜力和威胁都被夸大了。
