最近幾個月，Openai多次對人工智慧。在改善Chatgpt及其基本語言模型的同時，這家初創企業擁有乘以警告和警告，特別是關於當局。
美國公司首席執行官兼聯合創始人Sam Altman，尤其是估計AI可以“造成很多傷害”，如果事情錯了。因此，在美國參議院面前，阿爾特曼懇求實施監管框架在人工智能周圍。推薦企業家一個監管機構的創建完全致力於盡快針對語言模型。
一支致力於校長的新團隊
始終以掌握這項技術的目的，Openai來了宣佈建立一支旨在掌握和監督AI的新團隊。團隊由“自動學習的研究人員和高級工程師”，將重點放在«超級智能»。
Openai解釋說，這是一種仍處於假設階段的人工智能，能夠超越人類的思想。這項技術可以幫助人類“解決世界上許多最重要的問題”。不幸的是，這也有可能導致人的滅絕。在Openai的鏡子中，Google DeepMind和Anthropic，該公司開發的公司聊天機器人Claude，擔心AI會導致文明造成其損失。這三家公司還有簽名，禁止決策者制定緩解措施，而不是暫停研究。
為了避免AI出現後人類消失，Openai說，首先是必要的“新的科學和技術突破”。 Optai認為超級智能可能會更加緊迫看到十年中的一天…
掌握AI ...感謝AI
具體而言，團隊將繼續進行“解決院長一致問題的解決問題”。顯然，工程師將尋求一種方法來確保AI曾經到達進化的高級階段，遵循“人類意圖”而不是距離它的距離。初創企業想找到一種控制人工智能，即使它超過了人腦。
目前，AI被人類積極掌握。監督的是工程師和主持人chatgpt（在iOS和Android上可用）和其他人避免虐待。該系統將不會面對比創作者更聰明的模型。
為了解決這個棘手的問題，初創企業發展了“自動對準研究人員”。在這個sibylline名稱的背後，有一個AI系統，它將僅查看上面提到的對齊問題。實際上，Openai會要求人工智能找到解決方案...控制AI：
“我們的目標是建立一個足夠對齊的AI系統（編者註：關於人類的價值）這可以幫助我們解決所有其他路線問題”。
在其網站上，該公司解釋了此過程“可以比人類更快，更好的對齊速度的研究”。為了開發專門針對對齊問題的第一個系統，Openai將招募“新的研究人員和傑出工程師”。
樂觀的公司旨在“解決四年來校長一致的主要技術挑戰”。在不久的將來，將在線取得進步的路線圖將在線上進行在線。
來源 ： Openai
