Bard，谷歌开发的 ChatGPT 的替代品，刚刚犯了一个大错误。在公开场合，人工智能分享了有关詹姆斯·韦伯望远镜的错误信息。不幸的是，这是所有生成式人工智能所面临的风险……
现在担心 ChatGPT包含在 Microsoft Bing 中，不要掩盖其搜索引擎，谷歌刚刚揭开了巴德的面纱。这种智能聊天机器人能够回答互联网用户的问题并生成文本，很快就会被推出集成到 Google 搜索引擎中。
Bard 是一项实验性对话式人工智能服务，由 LaMDA 提供支持。它使用我们的大型语言模型构建并借鉴网络信息，是好奇心的发射台，可以帮助简化复杂的主题→https://t.co/fSp531xKy3 pic.twitter.com/JecHXVmt8l
— 谷歌 (@Google)2023 年 2 月 6 日
为了概述巴德提供的可能性，Google 发布了一些示例 其网站和社交网络上的互动。在那里我们特别发现了有关以下内容的交流的屏幕截图詹姆斯·韦伯空间望远镜。向巴德提出的问题是：
“我可以告诉我九岁的孩子关于詹姆斯·韦伯太空望远镜的哪些发现？” »。
作为响应，聊天机器人提供三项信息的列表。例如，巴德断言，望远镜“拍摄了第一张太阳系外行星的照片”。这是完全错误的。事实上，第一张系外行星图像是在 2004 年记录的，比詹姆斯·韦伯望远镜发射早了 17 年。该信息可在 NASA 官方网站上查看。第一张照片是由帕拉纳尔天文台的 VLT Yepun 望远镜拍摄的。
不是一个〜好吧，实际上〜混蛋，我相信巴德会令人印象深刻，但郑重声明：JWST 并没有拍摄“太阳系外行星的第一张图像”。
第一张图像是由 Chauvin 等人完成的。 (2004) 与使用自适应光学器件的 VLT/NACO。https://t.co/bSBb5TOeUW pic.twitter.com/KnrZ1SSz7h
— 格兰特·特伦布莱 (@astrogrant)2023 年 2 月 7 日
然而，詹姆斯韦伯望远镜发现了一颗系外行星，就在几周前，地球的大小。大概正是这件事，让巴德陷入了混乱。据报道，几位天文学爱好者在推特上攻击了巴德的回应，并重新确立了事实真相边缘。
生成式人工智能的典型错误
这个错误是生成式人工智能的症状。有时聊天机器人会生成虚假信息根据现有数据。 事实上，ChatGPT 根据互联网用户提出的问题发明了答案。如果您的查询基于不正确的前提，则答案有可能包含虚构元素。例如，可以鼓励聊天机器人将鸡蛋与牛的鸡蛋进行比较。 OpenAI 在其网站上还向互联网用户发出以下警告：
“ChatGPT 未连接到互联网，有时会产生错误的响应”。
而在我们的质疑中，ChatGPT却表现出了令人有些意外的自信。当我们问他是否会时不时说错话时，他保证说他是“旨在产生事实反应”基于它接受训练的信息。不过他也承认，他是“由于我的训练数据或算法的限制，我可能会犯错误或得到不完整的答案”。
“与其他可靠来源核实信息始终很重要””，ChatGPT 总结道，他的回应忽冷忽热。
聊天机器人不是查询数据库来回答问题，而是根据与主题相关的最可能的单词生成答案。在这种情况下，巴德发现“太阳系外的行星”和“发现”等术语很可能与詹姆斯·韦伯望远镜有关。
为了应对这一重大错误，谷歌致力于通过以下方式提高结果的可靠性：程序可信测试仪。该计划包括使用一组精心挑选的测试人员来验证人工智能提供的信息。这些反馈将用于优化巴德的运营。在接受 The Verge 质疑时，这家搜索巨头宣称：
“我们将把外部反馈与我们自己的内部测试结合起来，以确保巴德的响应符合质量、安全性和相关性的高标准”。
就微软而言，它倾向于保持谨慎。雷德蒙德公司补充道免责声明到新版本的 Bing。 尽管 Bing AI 连接到互联网并根据可靠来源生成响应，但 Microsoft 建议“根据 Bing 响应做出决定或采取行动之前先检查事实”。
“Bing 试图将其所有答案建立在可靠来源的基础上，但人工智能可能会犯错误，互联网上的第三方内容可能并不总是准确或可靠”，admet 微软。
目前，我们不能盲目信任会话机器人，无论它们多么复杂……
Opera One - AI 驱动的网络浏览器
作者：歌剧
来源 ： 边缘
