Bard，Google開發的 ChatGPT 的替代品，剛剛犯了一個大錯誤。在公開場合，人工智慧分享了有關詹姆斯韋伯望遠鏡的錯誤訊息。不幸的是，這是所有生成式人工智慧所面臨的風險…
現在擔心 ChatGPT包含在 Microsoft Bing 中，不要掩蓋其搜尋引擎，谷歌剛剛揭開了巴德的面紗。這種智慧聊天機器人能夠回答網路使用者的問題並產生文本，很快就會被推出整合到 Google 搜尋引擎中。
Bard 是一項實驗性對話式人工智慧服務，由 LaMDA 提供支援。它使用我們的大型語言模型來建構並藉鏡網路訊息，是好奇心的發射台，可以幫助簡化複雜的主題→https://t.co/fSp531xKy3 pic.twitter.com/JecHXVmt8l
— 谷歌 (@Google)2023 年 2 月 6 日
為了概述巴德提供的可能性，Google 發布了一些範例 其網站和社交網路上的互動。在那裡我們特別發現了有關以下內容的交流的屏幕截圖詹姆斯韋伯空間望遠鏡。向巴德提出的問題是：
“我可以告訴我九歲的孩子關於詹姆斯韋伯太空望遠鏡的哪些發現？” »。
作為回應，聊天機器人提供三項資訊的列表。例如，巴德斷言，望遠鏡“拍攝了第一張太陽系外行星的照片”。這是完全錯誤的。事實上，第一張系外行星影像是在 2004 年記錄的，比詹姆斯韋伯望遠鏡發射早了 17 年。該資訊可在 NASA 官方網站上查看。第一張照片是由帕拉納爾天文台的 VLT Yepun 望遠鏡拍攝的。
不是一個〜好吧，實際上〜混蛋，我相信巴德會令人印象深刻，但鄭重聲明：JWST 並沒有拍攝“太陽系外行星的第一張圖像”。
第一張圖像是由 Chauvin 等人完成的。 (2004) 與使用自適應光學元件的 VLT/NACO。https://t.co/bSBb5TOeUW pic.twitter.com/KnrZ1SSz7h
— 格蘭特‧特倫布萊 (@astrogrant)2023 年 2 月 7 日
然而，詹姆斯韋伯望遠鏡發現了一顆系外行星，就在幾週前，地球的大小。大概正是這件事，讓巴德陷入了混亂。據報道，幾位天文學愛好者在推特上攻擊了巴德的回應，並重新確立了事實真相邊緣。
生成式人工智慧的典型錯誤
這個錯誤就是生成式人工智慧的症狀。有時聊天機器人會生成虛假資訊根據現有數據。 事實上，ChatGPT 根據網路使用者提出的問題發明了答案。如果您的查詢是基於不正確的前提，則答案有可能包含虛構元素。例如，可以鼓勵聊天機器人將雞蛋與牛的雞蛋進行比較。 OpenAI 在其網站上也向網路使用者發出以下警告：
“ChatGPT 未連接到互聯網，有時會產生錯誤的回應”。
而在我們的質疑中，ChatGPT卻展現了令人有些意外的自信。當我們問他是否會時不時說錯話時，他保證說他是“旨在產生事實反應”基於它接受訓練的資訊。不過他也承認，他是“由於我的訓練數據或演算法的限制，我可能會犯錯或得到不完整的答案”。
“與其他可靠來源核實資訊始終很重要””，ChatGPT 總結道，他的回應忽冷忽熱。
聊天機器人不是查詢資料庫來回答問題，而是根據與主題相關的最可能的單字產生答案。在這種情況下，巴德發現「太陽系外的行星」和「發現」等術語很可能與詹姆斯·韋伯望遠鏡有關。
為了應對這一重大錯誤，谷歌致力於透過以下方式提高結果的可靠性：程序可信測試儀。該計劃包括使用一組精心挑選的測試人員來驗證人工智慧提供的資訊。這些反饋將用於優化巴德的營運。在接受 The Verge 質疑時，這家搜尋巨頭宣稱：
“我們將把外部反饋與我們自己的內部測試結合起來，以確保巴德的響應符合品質、安全性和相關性的高標準”。
就微軟而言，它傾向於保持謹慎。雷德蒙公司補充道免責聲明到新版本的 Bing。 儘管 Bing AI 連接到互聯網並根據可靠來源產生回應，但 Microsoft 建議“根據 Bing 回應做出決定或採取行動之前先檢查事實”。
“Bing 試圖將其所有答案建立在可靠來源的基礎上，但人工智慧可能會犯錯誤，而網路上的第三方內容可能並不總是準確或可靠”，admet 微軟。
目前，我們不能盲目信任會話機器人，無論它們多麼複雜…
Opera One - AI 驅動的網頁瀏覽器
作者：歌劇
來源 ： 邊緣
