過去一周，Google部署了AI概覽功能在美國。該功能基於Gemini 語言模型，提供旨在幫助搜尋引擎用戶的摘要。這些摘要顯示在結果的頂部，旨在用幾句話回答網路使用者的查詢。它們是透過將 Google 獲得的結果中最相關的資訊分組在一起而產生的。
不幸的是，人工智慧很快就引起了人們的注意他的荒唐言論。和所有生成式人工智慧一樣，雙子座有時會開始胡言亂語。人工智慧專家將這種現象稱為「幻覺」。在這種情況下，AI建議某些網路用戶在他們的披薩上加膠水或每天吃一塊石頭。顯然，雙子座被他從網路上收集到的虛假資訊所愚弄。
另請閱讀：對谷歌的恐懼促使微軟進軍人工智慧領域
Google將矛頭指向“數據空白”
事件發生幾天后，谷歌返回雙子座胡言亂語的原因。谷歌搜尋主管 Liz Reid 在一篇部落格文章中表示，Gemini 不一致的摘要主要是由於“數據空白”。
與其他聊天機器人不同，AI Overview 功能不僅僅根據訓練語料庫中的資訊產生回應。為了與引擎合作，Gemini 是“與我們的核心網路排名系統集成，旨在執行傳統的“搜尋”任務，例如識別相關結果”。當人工智慧無法在網路上找到相關資訊時，它可能會依靠低品質的內容來產生錯誤的答案。這就是山景城巨頭談論的原因" 影片 "訊息，主要是不太常見的問題。有時有“關於某個主題的有限數量的高品質內容”，谷歌感到遺憾。
糟糕的解釋
根據谷歌的說法，雙子座也碰巧誤解了請求網路使用者的首字母縮寫或誤解網路上的資訊。在某些情況下，人工智慧會以字面意思理解諷刺內容。這就是當雙子座建議網路使用者每天吃一塊石頭時發生的事情。
這些理解錯誤可能會導致寫出不連貫的總結。谷歌指出，這些情況非常罕見。最重要的是，該公司聲稱其人工智慧不會“通常會產生幻覺”不是。她只是誤解了在網路上找到的內容，但她並沒有憑空編造出荒謬的答案。當雙子座建議在披薩中添加膠水時，人工智慧顯然被論壇上出現的訊息所欺騙：
“論壇通常是真實的第一手信息的重要來源，但在某些情況下，它們可能會帶來不太有用的建議，例如使用膠水將奶酪粘在披薩上。”
儘管存在一些問題，谷歌表示對人工智慧概述結果感到滿意。據該公司稱，人工智慧生成的摘要已經“準確率”相當於著名的Google優化片段。這些是簡短、簡潔的答案，出現在搜尋結果的頂部，並且基於網頁的部分內容。
這遠非人工智慧第一次對其行為感到驚訝、失望和擔憂。去年，基於與 ChatGPT 相同技術的聊天機器人建議對話者製作以漂白劑為基礎的雞尾酒。此外，亞馬遜發現，在其商店出售的某些在人工智慧幫助下編寫的書籍可以提供致命的建議關於蘑菇的食用量…
來源 ： Google
