ChatGPT 背後的公司 OpenAI 以及 DALL-E 的執行長警告人工智慧可能對我們的社會造成的危險。他強調，監管機構必須參與該技術，以防止對人類產生潛在的負面影響。
防範人工智慧的負面後果
人工智慧 (AI) 正在以重大方式改變我們的世界。在這一領域脫穎而出的公司中，Sam Altman 領導的 OpenAI 走在了前面。 OpenAI致力於人工智慧的研究和開發，最近公佈了其最新創作：GPT-4模型。
在接受採訪時美國廣播公司新聞奧特曼強調了人工智慧提供的可能性領域。他毫不猶豫地說，這可能是“人類迄今為止開發出的最偉大的技術”。但他也仍然意識到這可能導致的濫用行為：
「我們在這裡必須小心。[…]我認為人們應該感到高興，因為我們有點害怕這一點。[…]我特別擔心這些模型可能被用於大規模假訊息。 […]現在他們在編寫電腦程式碼方面做得越來越好[伊爾斯]可用於進攻性網路攻擊。 »
發布僅四個月後，ChatGPT 就成為歷史上成長最快的消費者應用程式。對於一個不斷發展的工具來說，令人印象深刻的成長。對於上週推出的新 GPT-4 模型，Altman 表示，這個最新版本並不是“不完美”，同時強調了他令人印象深刻的編碼能力或以高分通過法律和數學考試的能力。
“人類控制的工具”
OpenAI 的執行長首先擔心的是，懷有惡意的人會使用這種類型的工具，而且他們不會建立“我們施加的一些安全限制”。他繼續指出 ChatGPT-4 使用演繹推理，而不是基於記憶。正如薩姆·奧爾特曼（Sam Altman）所指出的那樣，這種操作可能會導致奇怪的反應：
「我試圖警告人們的是我們所說的“幻覺問題”。當一切都是虛構的時候，模型可以自信地陳述事物，就好像它們是事實一樣。 »
微軟在 OpenAI 上投入巨資並將 ChatGPT 模型整合到 Bing 中，隨之而來的警告是，已經解散了致力於負責任的人工智慧的團隊。奧特曼的擔憂與 Elon Musk 2022 年 12 月 1 日發布的一條推文相呼應。「人工智慧沒有監管，這是一個『重大』問題。我十多年來一直呼籲人工智慧安全監管！ »
來源 ： 美國廣播公司新聞
