OpenAI 有一個計劃來防止人工智慧導致人類滅絕。 ChatGPT 背後的新創公司首先成立了一個由精心挑選的研究人員組成的新團隊。這些工程師將開發一個人工智慧…負責找到控制人工智慧的方法。
近幾個月來，OpenAI 多次表達了對人工智慧技術發展的擔憂。人工智慧。在改進 ChatGPT 及其底層語言模型的同時，這家新創公司還增加警告和警告，特別是針對當局。
Sam Altman，這家美國公司的執行長兼聯合創辦人，特別估計人工智慧可以“造成很大的傷害”，如果出了問題。因此，在美國參議院面前，奧特曼倡議建立監管框架圍繞人工智慧。承包商推薦盡快建立一個完全致力於語言模型的監管機構。
致力於超級智慧的新團隊
OpenAI 始終以掌握這項技術為目標宣布成立一個旨在掌握和監督人工智慧的新團隊。該團隊由“機器學習領域的高水準研究人員和工程師”，將重點關注《超級智能》。
OpenAI 解釋說，這是一種人工智慧，仍處於假設階段，能夠超越人類思維。這項技術可以幫助人類“解決世界上許多最重要的問題”。不幸的是，它也有導致人類滅絕的風險。模仿 OpenAI、Google Deepmind 和開發公司 Anthropic克勞德聊天機器人，擔心人工智慧會導致文明走向滅亡。這三家公司還簽署公開信，敦促決策者制定緩解措施，而不是暫停研究。
為了避免人類因人工智慧的出現而消失，OpenAI 斷言，首先有必要“科技新突破”。這一點更加緊迫，因為 OpenAI 相信超級智慧可以十年間重見天日……
掌握人工智慧…感謝人工智慧
具體而言，該團隊將致力於“解決超級智慧對齊問題”。顯然，工程師們將尋找一種方法來確保人工智慧一旦達到進化的高階階段，就會跟隨“人的意圖”而不是讓自己遠離它。這家新創公司希望找到一種方法讓人工智慧處於掌控之中，即使它超越了人腦。
目前，人工智慧正被人類積極掌握。監工的是工程師、版主ChatGPT（在 iOS 和 Android 上可用）和其他人以避免濫用。該系統無法對抗比其創建者更聰明的模型。
為了解決這個棘手的問題，這家新創公司正在開發一種“自動對齊查找器”。在這個神秘的名字背後，我們發現了一個人工智慧系統，它將專門關注上面提到的對齊問題。事實上，OpenAI 會要求人工智慧找到解決方案…來控制 AI：
“我們的目標是建立一個充分協調的人工智慧系統（編按：論人性價值）誰可以幫助我們解決所有其他對齊問題 »。
該公司在其網站上解釋說，這一過程“可以比人類更快更好地推進比對研究”。為了開發第一個專門解決對齊問題的系統，OpenAI 將招募“傑出的新研究人員和工程師”。
樂觀的是，該公司的目標是“四年內解決超級智慧對齊的主要技術挑戰”。該團隊的進度路線圖將在不久的將來發佈在網上。
來源 ： 開放人工智慧
