调查显示，AGI 领域存在分歧。图片来源：metamorworks/shutterstock.com
一项针对人工智能 (AI) 领域科学家和研究人员的调查发现，大约三分之一的人认为人工智能可能会造成堪比全面核战争的灾难。
这项调查的对象是至少共同撰写了两篇计算论文的研究人员语言学2019 年至 2022 年期间的出版物。它的目的是发现行业对人工智能和通用人工智能 (AGI) 有争议的话题的看法——人工智能像人类一样思考的能力——以及研究领域的人们认为的影响人工智能将对整个社会产生影响。结果发表在尚未经过同行评审的预印本论文中。
正如论文所指出的，AGI 是该领域一个有争议的话题。对于我们是否正在朝着这个目标前进，这是否是我们应该瞄准的目标，以及当人类到达那里时会发生什么，人们的意见存在很大分歧。
“整个社区都知道这是一个有争议的问题，现在（通过这项调查）我们可以知道我们知道这是有争议的，”该团队在他们的研究中写道。在（相当不同的）调查结果中，58% 的受访者认为 AGI 应该成为自然语言处理的一个重要关注点，而 57% 的受访者认为最近的研究推动我们走向 AGI。
有趣的是人工智能研究人员认为通用人工智能将如何影响整个世界。
研究人员表示：“73% 的受访者认为，人工智能带来的劳动力自动化可能会在本世纪带来革命性的社会变革，至少达到工业革命的规模。”写了他们的调查。
与此同时，36% 的受访者一致认为，人工智能可能会在本世纪产生灾难性后果，“达到全面核战争的水平”。
当一个领域的很大一部分人相信这可能导致人类毁灭时，这并不是最令人放心的事情。然而，在反馈部分，一些受访者反对“全面核战争”的措辞，并写道他们“同意问题中不那么极端的措辞”。
该团队写道：“这表明我们 36% 的结果低估了严重担心人工智能系统负面影响的受访者。”
尽管 （也许有充分的理由）出于对 AGI 潜在灾难性后果的警惕，研究人员压倒性地同意自然语言处理“对世界产生积极的整体影响，无论是现在（89%）还是未来（87%）。”
“虽然观点是反相关的，但 23% 的受访者中，有相当少数人同意 Q6-2（AGI 可能造成与全面核战争同等的灾难性后果）和 Q3-4（NLP 对研究人员写道，“这表明他们可能相信 NLP 产生积极影响的潜力是如此之大，甚至超过了对文明的合理威胁。”
其他调查结果包括，74% 的人工智能研究人员认为私营部门对该领域的影响太大，60% 的人认为训练大型模型的碳足迹应该是 NLP 研究人员主要关心的问题。
该论文发表于预印本服务器 arXiv
