谷歌副总裁警告称人工智能聊天机器人正在产生幻觉

谷歌高级副总裁普拉巴卡尔·拉加万（Prabhakar Raghavan）警告公众注意人工智能的一个鲜为人知的问题（) 聊天机器人：它们“产生幻觉”。

谷歌即将推出自己的人工智能平台，与 OpenAI 竞争，一种可以回答你的问题和疑问的语言模型。这款名为 Bard 的聊天机器人将在未来几周内向公众推出根据谷歌首席执行官 Sundar Pichai 的说法。

在发布之前，谷歌在宣传视频中展示了 Bard 的强大功能。不幸的是，人们注意到这个聊天机器人是他们的对话应用语言模型 (LaMDA) 的缩小版，它? 得出了关于。

巴德声称詹姆斯·韦伯太空望远镜是第一台拍摄太阳系外行星的望远镜，尽管第一张图像是由甚大望远镜于 2004 年拍摄的，比詹姆斯·韦伯太空望远镜开始工作早了近二十年。

这对投资者来说不仅是一个钱包问题（错误被抹去了)，这个问题让谷歌和其他AI聊天机器人创造者头疼不已。

接受德国报纸采访周日的世界Raghavan 警告称，尽管答案看似连贯，但用户可能会发现聊天机器人给出的答案完全是胡言乱语。

“我们谈论的这种人工智能有时会导致我们称之为幻觉的现象，”拉加万告诉《星期日世界报》。“然后以机器给出令人信服但完全虚构的答案的方式表现出来。”

例如，当被问及徒步穿越英吉利海峡的记录时，ChatGPT 声称有几个不同的人创造了该记录（耗时 4 到 12 小时）。

根据Got It AI 联合创始人Peter Relan 表示，ChatGPT 大约有 15% 或 20% 的时间会出现幻觉。

“关键是要找出什么时候会出现这种情况，”他告诉数据纳米，“并确保你有一个替代答案或可以传递给用户的响应，而不是幻觉。”

尽管上周暗示 Bard 将“很快”推出，但尚未发布更多信息。Raghavan 告诉 Welt Am Sontag，他们希望大规模测试该机器人，以便确保它提供的信息真实可靠。

“我们当然感到紧迫，但我们也感到责任重大，”拉加万说。“我们绝对不想误导公众。”