自測試版計畫啟動以來，新必應從來沒有停止給網路使用者帶來驚喜…而且不一定是好的方式。當談話時間過長時，普羅米修斯微軟開發的ChatGPT版本確實有奇怪的行為。聊天機器人可以展示自己侮辱性、威脅性、攻擊性、偏執或過於甜蜜。
在某些情況下，人工智慧甚至會產生讓網路使用者感到不舒服的愛的宣言。更糟的是，有些記者發現普羅米修斯可以培養大約十種不同的性格，包括毒液。這個邪惡的人物設法使自己擺脫了微軟所製定的規則。她在接受記者採訪時說道一系列威脅給他的對話者。
Prometheus 原來與 ChatGPT 不同
幾位人工智慧專家對普羅米修斯的過度行為感興趣，進行了研究這些故障的原因。科學家特別想知道為什麼微軟的聊天機器人這麼快就脫軌了，而基於相同語言模型先驗的 ChatGPT 卻沒有產生同樣的妄想反應。
標準版ChatGPT和Prometheus依賴GPT-3.5，去年 11 月發布的一款車型。因此，從理論上講，這兩種生成式人工智慧非常接近。微軟在其網站上解釋說，它依賴於“ChatGPT 和 GPT-3.5 的主要學習和進步”，結合“使用 OpenAI 模型的獨特方式，讓您能夠充分利用其強大功能”。儘管如此，與 Bing 整合的版本仍因其網路存取而脫穎而出。與 ChatGPT 不同，Prometheus 可以在線搜尋資訊來回答用戶的查詢。
考慮到 OpenAI 在過濾 ChatGPT 的有毒輸出方面做得不錯，但令人費解的是 Bing 似乎決定移除這些護欄。我不認為他們這樣做只是為了搞笑和咯咯笑。以下是微軟急於發布聊天機器人的四個原因。
— Arvind Narayanan (@random_walker)2023 年 2 月 19 日
對普林斯頓大學電腦科學家兼教授阿爾溫德‧納拉亞南 (Arvind Narayanan) 來說，微軟可能依賴比 GPT-3.5 更高階的語言模型。學者認為該公司可能是基於GPT-4的。倉促間，微軟可能會忽略將 OpenAI 開發的安全措施整合到其聊天機器人中。
為了防止人工智慧產生令人震驚和冒犯性的內容，這家舊金山新創公司實際上製定了一系列指導方針，讓機器人保持在正軌上。這些保護機制是由人類，負責標記有毒內容這是人工智慧所不能容忍的。在此過程中，人工智慧透過無限的現實世界實驗來學習如何行事。
很難相信這個理論。這家雷德蒙巨頭確實在其官方通訊中多次提到了 GPT-3.5。如果微軟真的能夠獲得比 GPT-3.5 更複雜的語言模型，它會毫不猶豫地提出這項資訊。此外，OpenAI 創辦人 Sam Altman 表示在 GPT-4 的輸出端沒有立即計劃：
“當我們有信心能夠安全、負責任地做到這一點時，它就會出現。”
不耐煩和疏忽？
Arvind Narayanan 表示，微軟可能故意禁用 OpenAI 編碼的所有過濾器為了“獲得有關可能出現問題的更多反饋”。如果沒有管理標準 ChatGPT 的預防措施，該公司可能會冒險部署人工智慧，其目的只是為了收集盡可能多的推薦。
顯然，微軟會以測試版計畫的形式啟動大規模實驗。在最近的一篇部落格文章中，出版商並沒有隱藏新必應的實驗性面。微軟甚至指出，如果沒有網路使用者的幫助，就不可能正確測試人工智慧：
「改進這樣的產品的唯一方法是讓像你這樣的人使用該產品，其用戶體驗與任何人以前見過的都有很大不同。我們知道我們必須與社區一起建立這個項目；這不能僅在實驗室完成”。
紐約大學心理學和神經科學教授加里馬庫斯則表示，微軟包含了這些過濾器，但它們根本沒有按預期工作。該指南由 OpenAI 發布並在人工服務提供者的幫助下完善，與微軟審查的 ChatGPT 版本不符。如果微軟急於宣布其產品的誕生是為了讓谷歌黯然失色，那麼它可能會忽略這一點。
這位專注於人工智慧的專家認為，OpenAI 在 ChatGPT 上使用的強化學習很可能稍有變化就會發生故障帶到聊天機器人。透過對 Prometheus 進行編程，微軟可能會無意中破壞 OpenAI 安全措施的運作。
“也許大型語言模型的每次新更新都需要對強化學習模組進行徹底的重新訓練”，加里·馬庫斯提出理論。
好歹，微軟近期採取了強而有力的措施結束普羅米修斯的創造力危機。今後，Bing助手的使用受到限制適用於所有網路使用者。 Microsoft 將每次交流限制為每輪 5 個問題，每天 50 個問題。
儘管微軟緊急頒布了這些變化，但 Arvind Narayanan 認為新 Bing 的部署是“不負責任”。迫不及待與Google競爭，微軟會隱藏“大規模破壞的非常明顯的風險”。加里·馬庫斯也有同樣的故事，他發現該公司將 Prometheus 交到用戶手中是不謹慎的：
「我們不會這樣對待新藥品（我們要求在向公眾發布之前進行仔細測試），我們也不應該這樣對待語言模型，特別是如果數十億人要使用它們的話。存在潛在的巨大風險。
Opera One - AI 驅動的網頁瀏覽器
作者：歌劇
來源 ： 子堆疊
