OpenAI 的聯合創始人之一創立了 Safe Superintelligence Inc，這是一家致力於先進和安全人工智慧的新創公司。該公司希望透過組建一個精心挑選的小型團隊來開發新的人工智慧。
OpenAI 聯合創始人之一 Ilya Sutskever 剛剛宣布成立一家致力於人工智慧的新公司。受洗安全超級智能Inc，這家新創公司將專注於設計“安全超級智慧”。根據 Ilya Sutskever 分享的新聞稿，這是“我們這個時代最重要的技術問題”。
這個概念指的是先進的人工智慧，在幾乎所有領域都遠遠超過人類的智力能力，這仍然是符合人類價值觀。該公司表示，專門用於該計畫的實驗室已經成立。此外，該小組還聚集了“一個由世界上最好的工程師和研究人員組成的小而有能力的團隊”。在安全超級智慧的背後，我們也找到了蘋果前人工智慧負責人之一 Daniel Gross，以及 OpenAI 團隊前科學主管 Daniel Levy。
安全第一
顧名思義，該公司將專注於人工智慧安全。作為這種方法的一部分，安全超級智慧將依賴一種商業模式來保證“安全、保障和進步都不受短期商業壓力的影響”。具體來說，“間接管理成本或產品週期”不會分散科學家的注意力。
「這家公司的特別之處在於，它的第一個產品將是安全的超級智能，在此之前它不會做任何其他事情。它將完全免受必須推出大型、複雜產品以及必須陷入競爭激烈的外部壓力的影響。”，伊利亞·蘇茨克韋爾 (Ilya Sutskever) 在接受采訪時說道蒲隆地。
這樣，研究人員將在開發人工智慧時無需擔心財務或經濟方面的考慮，並且“和平發展””，蘇茨克維爾補充道。研究人員似乎隱含地制定了對 OpenAI 所採取方向的批判性描述。在 Sam Altman 的領導下，這家新創公司發現自己陷入了一場爭奪最高效人工智慧的瘋狂競賽，並正在增加新的語言模型。推出ChatGPT 4和ChatGPT 4o後，OpenAI正在準備現在又一個更強大的模型出現了，以以下名義提及GPT-Next 或 GPT-5。
儘管強調安全性，安全超級智慧仍致力於保持在人工智慧領域研究的前沿：
「我們將安全和技能視為需要透過革命性工程和科學突破來解決的技術問題。我們計劃盡快提升我們的能力，同時確保我們的安全始終保持領先地位。。
OpenAI 的分歧
根據記錄，Ilya Sutskever 於 2015 年與 Sam Altman 一起參與了 OpenAI 的創立。上個月離開 OpenAI。幾個月前，他就已經放棄了該集團的董事會。薩姆·奧爾特曼 (Sam Altman) 被罷免並恢復首席執行官職務。伊利亞·蘇茨克韋爾 (Ilya Sutskever) 是投票支持奧特曼離開的人之一。
這位俄羅斯科學家認為，OpenAI 在執行長的領導下，在通用人工智慧的競賽中忽略了採取必要的預防措施。在 OpenAI，Ilya Sutskever 也創造了一個完全致力於預測人工智慧帶來的風險的團隊。這個名為 Superalignment 的團隊在這位電腦科學家離開後不久就解散了。成員被重新分配到其他職位。
來源 ： X
