ChatGPT 是迄今為止最新、最令人印象深刻的人工智慧聊天機器人。它在兩週前發布，短短五天內就突破了一百萬用戶。它的使用量如此之大，以至於它的伺服器已經多次達到容量。
開發它的 OpenAI 公司已經被視為潛在的 Google 殺手。當 ChatGPT 可以寫出一整段來解釋答案時，為什麼要在搜尋引擎上尋找某些內容呢？ （甚至還有Chrome 擴充功能這讓你可以同時做這兩件事。
但如果我們永遠不知道 ChatGPT 功能背後的秘密呢？
該聊天機器人利用了過去幾十年來開放科學文獻中發表的許多技術進步。但它獨有的任何創新都是秘密。 OpenAI 很可能試圖建立一條技術和商業護城河，將其他人拒之門外。
它能做什麼（和不能做什麼）
聊天GPT非常有能力。想要聊天機器人上的俳句嗎？當然。
聊天機器人，哦，太聰明了
無盡的加工
來自虛空的答案。
關於聊天機器人的笑話怎麼樣？沒問題。
聊天機器人為什麼要過馬路？
到達螢幕的另一邊！
ChatGPT 可以做許多其他技巧。它可以寫電腦程式碼根據使用者的要求，起草商業信函或租賃合同，撰寫作業論文，甚至通過大學考試。
同樣重要的是 ChatGPT 無法做到的事。例如，它很難區分真理和謊言。它也常常是個有說服力的騙子。
速度最快的海洋哺乳動物是什麼？
最快的海洋哺乳動物是旗魚。
旗魚不是哺乳類動物。
你是對的，旗魚不是哺乳類動物。我為這個錯誤道歉。最快的海洋哺乳動物是遊隼。
ChatGPT 有點像是手機上的自動完成功能。您的手機接受了單字詞典的訓練，因此可以完成單字。 ChatGPT 幾乎在所有網路上進行了訓練，因此可以完成整個句子，甚至整個段落。
然而，它不明白自己在說什麼，只是不明白接下來最有可能出現的詞是什麼。
僅按名稱打開
過去，人工智慧的進步伴隨著同儕審查的文獻。
例如，2018 年，當 Google Brain 團隊開發了現在大多數自然語言處理系統都基於的 BERT 神經網路（我們懷疑 ChatGPT 也是如此）時，這些方法發表在同行評審的科學論文和程式碼中是開源的。
2021 年，DeepMind 的 AlphaFold 2（蛋白質折疊軟體）被《Science》雜誌年度突破。該軟體及其結果是開源的，因此世界各地的科學家都可以使用它們來推進生物學和醫學的發展。
ChatGPT 發布後，我們只有一篇簡短的部落格文章描述其工作原理。沒有任何跡象表明會附帶科學出版物，也沒有跡象表明程式碼將開源。
要理解為什麼 ChatGPT 可以保密，你必須了解一些它背後的公司。
OpenAI 或許是矽谷誕生的最奇怪的公司之一。原來是設立為非營利組織2015年，以「造福全人類」的方式促進和發展「友善」人工智慧。馬斯克 (Elon Musk)、彼得蒂爾 (Peter Thiel) 和其他領先的科技人物承諾為實現其目標提供 10 億美元。
他們的想法是，我們不能相信營利公司能夠開發出能力越來越強、與人類繁榮一致的人工智慧。因此，人工智慧需要由非營利組織開發，並且顧名思義，以開放的方式進行開發。
2019年OpenAI轉變為一家有上限的營利性公司（投資者的最高回報不得超過其投資的 100 倍），並從微軟獲得了 10 億美元的投資，以便它能夠擴大規模並與科技巨頭競爭。
資金似乎阻礙了 OpenAI 最初的開放計畫。
從用戶身上獲利
最重要的是，OpenAI 似乎正在利用用戶的回饋來過濾掉 ChatGPT 幻想的虛假答案。
根據它的博客，OpenAI 最初在 ChatGPT 中使用強化學習，使用昂貴的手工構建的訓練集來降低虛假和/或有問題的答案的排名。
但 ChatGPT 現在似乎受到超過一百萬用戶的關注。我想以任何其他方式獲取這種人類反饋的成本將高得令人望而卻步。
我們現在面臨著人工智慧取得重大進步的前景，它使用的方法在科學文獻中沒有描述過，而且資料集僅限於一家似乎只在名義上開放的公司。
接下來要去哪裡？
在過去的十年中，人工智慧的快速發展在很大程度上歸功於學術界和企業界的開放。我們擁有的所有主要人工智慧工具都是開源的。
但在開發能力更強的人工智慧的競賽中，這種情況可能會結束。如果人工智慧的開放性減少，我們可能會看到該領域的進步因此放緩。我們也可能看到新的壟斷的發展。
如果以史為鑑的話，我們知道缺乏透明度會引發科技領域的不良行為。因此，當我們繼續讚美（或批評）ChatGPT 時，我們不應該忽視它出現的環境。
除非我們小心謹慎，否則看似標誌著人工智慧黃金時代的事情實際上可能標誌著它的終結。
托比·沃爾什，新南威爾斯大學人工智慧教授，研究組組長，新南威爾斯大學 悉尼
