ChatGPT 背后的公司 OpenAI 以及 DALL-E 的首席执行官警告人工智能可能给我们的社会带来的危险。他强调，监管机构必须参与该技术，以防止对人类产生潜在的负面影响。
防范人工智能的负面后果
人工智能 (AI) 正在以重大方式改变我们的世界。在这一领域脱颖而出的公司中，Sam Altman 领导的 OpenAI 走在了前列。 OpenAI致力于人工智能的研究和开发，最近公布了其最新创作：GPT-4模型。
在接受采访时美国广播公司新闻奥特曼强调了人工智能提供的可能性领域。他毫不犹豫地说，这可能是“人类迄今为止开发出的最伟大的技术”。但他也仍然意识到这可能导致的滥用行为：
“我们在这里必须小心。[…]我认为人们应该感到高兴，因为我们有点害怕这一点。[…]我特别担心这些模型可能被用于大规模虚假信息。 […]现在他们在编写计算机代码方面做得越来越好[伊尔斯]可用于进攻性网络攻击。 »
发布仅四个月后，ChatGPT 就成为历史上增长最快的消费者应用程序。对于一个不断发展的工具来说，令人印象深刻的增长。对于上周推出的新 GPT-4 模型，Altman 表示，这个最新版本并不是“不完美”，同时强调了他令人印象深刻的编码能力或以高分通过法律和数学考试的能力。
“人类控制的工具”
OpenAI 的首席执行官首先担心的是，怀有恶意的人会使用这种类型的工具，并且他们不会建立“我们施加的一些安全限制”。他继续指出 ChatGPT-4 使用演绎推理，而不是基于记忆。正如萨姆·奥尔特曼（Sam Altman）指出的那样，这种操作可能会导致奇怪的反应：
“我试图警告人们的是我们所说的“幻觉问题”。当一切都是虚构的时候，模型可以自信地陈述事物，就好像它们是事实一样。 »
微软在 OpenAI 上投入巨资并将 ChatGPT 模型集成到 Bing 中，随之而来的警告是，已经解散了致力于负责任的人工智能的团队。奥特曼的担忧与埃隆·马斯克 (Elon Musk) 2022 年 12 月 1 日发布的一条推文相呼应。在后者中，这位亿万富翁警告说，“人工智能没有监管，这是一个‘重大’问题。我十多年来一直呼吁人工智能安全监管！ »
来源 ： 美国广播公司新闻
