谷歌副總裁警告人工智慧聊天機器人正在產生幻覺

谷歌高級副總裁 Prabhakar Raghavan 警告公眾有關人工智慧的一個鮮為人知的問題（）聊天機器人：他們「產生幻覺」。

谷歌將推出自己的 OpenAI 競爭對手，一個可以回答您的問題和疑問的語言模型。 該聊天機器人名為 Bard，將在未來幾週內向公眾推出谷歌執行長 Sundar Pichai 表示。

在發布之前，谷歌在宣傳影片中展示了巴德的強大功能。 不幸的是，人們注意到聊天機器人——對話應用程式語言模型（LaMDA）的縮小版本– 提出了關於的不正確的陳述。

巴德聲稱，JWST 是第一台拍攝太陽系外行星照片的望遠鏡，儘管第一張影像是由甚大望遠鏡在 2004 年拍攝的，距離 JWST 開始工作幾乎早了二十年。

不僅讓投資者心疼（這個錯誤被抹去了）），這個問題令Google和其他人工智慧聊天機器人創造者頭痛不已。

接受德國報紙採訪週日的世界拉格萬警告說，儘管答案看起來連貫，但聊天機器人可能會向用戶傳達完全無稽之談。

「我們談論的這種人工智慧有時會導致我們所謂的幻覺，」拉加萬告訴《週日世界報》。 “然後用機器給出令人信服但完全虛構的答案的方式來表達。”

例如，當被問及步行穿越英吉利海峽的記錄時，ChatGPT 聲稱有幾個不同的人創造了該記錄（需要 4 到 12 小時）。

根據Got It AI 聯合創辦人, Peter Relan, ChatGPT 大約 15% 或 20% 的時間會產生幻覺。

「這裡的關鍵是找出它是什麼時候，」他告訴數據奈米，“並確保你有一個替代答案或提供給用戶的回應，而不是它的幻覺。”

儘管上周有消息稱巴德將「很快」推出，但尚未發布更多資訊。 拉加萬告訴《桑塔格世界報》，他們希望大規模測試該機器人，以便他們確信它正在提供真實的資訊。

拉加萬說：“我們當然感到緊迫，但我們也感到責任重大。” “我們絕對不想誤導公眾。”