OpenAI 有一个计划来防止人工智能导致人类灭绝。 ChatGPT 背后的初创公司首先成立了一个由精心挑选的研究人员组成的新团队。这些工程师将开发一个人工智能……负责找到控制人工智能的方法。
近几个月来，OpenAI 多次表达了对人工智能技术发展的担忧。人工智能。在改进 ChatGPT 及其底层语言模型的同时，这家初创公司还增加警告和警告，特别是针对当局。
Sam Altman，这家美国公司的首席执行官兼联合创始人，特别估计人工智能可以“造成很大的伤害”，如果出了问题。因此，在美国参议院面前，奥特曼倡导建立监管框架围绕人工智能。承包商推荐尽快建立一个完全致力于语言模型的监管机构。
致力于超级智能的新团队
OpenAI 始终以掌握这项技术为目标宣布成立一个旨在掌握和监督人工智能的新团队。该团队由“机器学习领域的高水平研究人员和工程师”，将重点关注《超级智能》。
OpenAI 解释说，这是一种人工智能，仍处于假设阶段，能够超越人类思维。这项技术可以帮助人类“解决世界上许多最重要的问题”。不幸的是，它也有导致人类灭绝的风险。模仿 OpenAI、Google Deepmind 和开发公司 Anthropic克劳德聊天机器人，担心人工智能会导致文明走向灭亡。这三家公司还签署公开信，敦促决策者制定缓解措施，而不是暂停研究。
为了避免人类因人工智能的出现而消失，OpenAI 断言，首先有必要“科技新突破”。这一点更加紧迫，因为 OpenAI 相信超级智能可以十年间重见天日……
掌握人工智能……感谢人工智能
具体而言，该团队将致力于“解决超级智能对齐问题”。显然，工程师们将寻找一种方法来确保人工智能一旦达到进化的高级阶段，就会跟随“人的意图”而不是让自己远离它。这家初创公司希望找到一种方法让人工智能处于掌控之中，即使它超越了人脑。
目前，人工智能正在被人类积极掌握。监督的是工程师和版主ChatGPT（在 iOS 和 Android 上可用）和其他人以避免滥用。该系统无法对抗比其创建者更智能的模型。
为了解决这个棘手的问题，这家初创公司正在开发一种“自动对齐查找器”。在这个神秘的名字背后，我们发现了一个人工智能系统，它将专门关注上面提到的对齐问题。事实上，OpenAI 会要求人工智能找到解决方案……来控制 AI：
“我们的目标是建立一个充分协调的人工智能系统（编者注：论人性价值观）谁可以帮助我们解决所有其他对齐问题 »。
该公司在其网站上解释说，这一过程“可以比人类更快更好地推进比对研究”。为了开发第一个专门解决对齐问题的系统，OpenAI 将招募“杰出的新研究人员和工程师”。
乐观的是，该公司的目标是“四年内解决超级智能对齐的主要技术挑战”。该团队的进展路线图将在不久的将来发布在网上。
来源 ： 开放人工智能
