人工智能有可能导致人类灭绝。这是一封由 350 多名人工智能专家签署的信函，其中包括 OpenAI、Google Deepmind 和 Anthropic 的领导者。他们主张采取缓解措施，例如监管，而不是暂停……
人工智能继续引起专家的关注。 2023 年 5 月 30 日这个星期二，人工智能安全中心总部位于美国的非营利组织发表了一封信，呼吁采取措施减轻人工智能带来的风险。
人工智能，优先事项
据该组织称，这项技术提出了“灭绝的危险”为了人类。事实上，人工智能中心认为人工智能势在必行“与流行病和核战争等其他全社会风险一起成为全球优先事项”。该声明估计，与疾病或原子冲突一样，人工智能很可能会终结人类。
“可能很难表达对先进人工智能的一些最严重风险的担忧””，人工智能安全中心表示，强调其声明旨在“克服这个障碍并展开讨论”。
这封信由多位行业领军人物签署，首先是Sam Altman，OpenAI 首席执行官兼联合创始人，背后的初创企业聊天GPT，以及 Google 人工智能子公司 Deepmind 的老板 Demis Hassabis。我们还要提一下 Dario Amodei，Anthropic 公司的老板，该公司开发了克劳德聊天机器人以及杰弗里·辛顿 (Geoffrey Hinton) 和约书亚·本吉奥 (Yoshua Bengio) 两位研究人员因在深度学习和神经网络方面的工作而被认为是现代人工智能的教父。
总共有超过 350 名人工智能领域的高管、研究人员和工程师签署了这份新闻稿。被质疑的是纽约时报AI安全中心执行主任Dan Hendrycks认为，这封信让一些专家和领导人公开表达了他们的担忧。该宣言非常简短，主要目的是将尽可能多的人聚集在一起。
«即使在人工智能社区，也有一个非常普遍的误解，即“只有少数”厄运者“（编者注：一个过度担心人类末日的人）»丹·亨德里克斯解释说，“有忧虑”。
暂停与监管
这并不是第一个将担心人工智能的专家聚集在一起的倡议。三月份，数千人，包括科技界的关键人物，例如埃隆·马斯克或史蒂夫·沃兹尼亚克, 呼吁公开信中的暂停令。这要求世界上所有研究中心暂停有关的研究“人工智能系统比GPT-4更强大”，ChatGPT 背后的最新语言模型。
人工智能安全中心发表的这封信更为温和，呼吁更多缓解措施。倒萨姆·奥特曼，AI的进化也涉及监管。在美国参议院之前，他谈到要建立一个完全致力于监督人工智能的联邦机构。该机构将负责向开发语言模型的公司颁发许可证。奥尔特曼还与美国总统乔·拜登进行了交谈。
随后，OpenAI的老板飞赴欧洲与各国政府进行讨论。 OpenAI 总监上周在法国会见了埃马纽埃尔·马克龙 (Emmanuel Macron)。面对法国总统，萨姆·奥尔特曼辩护细致入微的方法，这可以在不抑制创新的情况下降低风险。
正如这位美国企业家指出的那样，人工智能可以对人类产生积极影响。模仿萨姆·奥尔特曼，比尔·盖茨 (Bill Gates)，著名的微软联合创始人，相信人工智能“可以用于有益的目的”，特别是应对全球变暖、减少不平等和改善最弱势群体的教育。
来源 ： 人工智能安全中心
