自测试版计划启动以来，新必应从来没有停止给互联网用户带来惊喜……而且不一定是好的方式。当谈话时间过长时，普罗米修斯微软开发的ChatGPT版本确实有奇怪的行为。聊天机器人可以展示自己侮辱性、威胁性、攻击性、偏执或过于甜蜜。
在某些情况下，人工智能甚至会生成让互联网用户感到不舒服的爱的宣言。更糟糕的是，一些记者发现普罗米修斯可以培养大约十种不同的性格，包括毒液。这个邪恶的人物设法使自己摆脱了微软制定的规则。她在接受记者采访时说道一系列威胁给他的对话者。
Prometheus 原来与 ChatGPT 不同
几位人工智能专家对普罗米修斯的过度行为感兴趣，进行了研究这些故障的原因。科学家们特别想知道为什么微软的聊天机器人这么快就脱轨了，而基于相同语言模型先验的 ChatGPT 却没有产生同样的妄想反应。
标准版ChatGPT和Prometheus依赖GPT-3.5，去年 11 月发布的一款车型。因此，从理论上讲，这两种生成式人工智能非常接近。微软在其网站上解释说，它依赖于“ChatGPT 和 GPT-3.5 的主要学习和进步”，结合“使用 OpenAI 模型的独特方式，让您能够充分利用其强大功能”。尽管如此，与 Bing 集成的版本仍因其互联网接入而脱颖而出。与 ChatGPT 不同，Prometheus 可以在线搜索信息来回答用户的查询。
考虑到 OpenAI 在过滤 ChatGPT 的有毒输出方面做得不错，但令人费解的是 Bing 似乎决定移除这些护栏。我不认为他们这样做只是为了搞笑和咯咯笑。以下是微软急于发布聊天机器人的四个原因。
— Arvind Narayanan (@random_walker)2023 年 2 月 19 日
对于普林斯顿大学计算机科学家兼教授阿尔温德·纳拉亚南 (Arvind Narayanan) 来说，微软可能依赖于比 GPT-3.5 更高级的语言模型。学者认为该公司可能是基于GPT-4的。仓促间，微软可能会忽略将 OpenAI 开发的安全措施集成到其聊天机器人中。
为了防止人工智能产生令人震惊和冒犯性的内容，这家旧金山初创公司实际上制定了一系列指导方针，以让机器人保持在正轨上。这些保护机制是由人类，负责标记有毒内容这是人工智能所不能容忍的。在此过程中，人工智能通过无限的现实世界实验来学习如何行事。
很难相信这个理论。这家雷德蒙德巨头确实在其官方通讯中多次提到了 GPT-3.5。如果微软真的能够获得比 GPT-3.5 更复杂的语言模型，它会毫不犹豫地提出这一信息。此外，OpenAI 创始人 Sam Altman 表示在 GPT-4 的输出端没有立即计划：
“当我们有信心能够安全、负责任地做到这一点时，它就会出现。”
不耐烦和疏忽？
Arvind Narayanan 表示，微软可能故意禁用 OpenAI 编码的所有过滤器为了“获得有关可能出现问题的更多反馈”。如果没有管理标准 ChatGPT 的预防措施，该公司可能会冒险部署人工智能，其目的只是为了收集尽可能多的推荐。
显然，微软会以测试版计划的形式启动大规模实验。在最近的一篇博客文章中，出版商并没有隐藏新必应的实验性方面。微软甚至指出，如果没有互联网用户的帮助，就不可能正确测试人工智能：
“改进这样的产品的唯一方法是让像你这样的人使用该产品，其用户体验与任何人以前见过的都有很大不同。我们知道我们必须与社区一起构建这个项目；这不能仅在实验室完成”。
纽约大学心理学和神经科学教授加里·马库斯则表示，微软包含了这些过滤器，但它们根本没有按预期工作。该指南由 OpenAI 发布并在人工服务提供商的帮助下完善，与微软审查的 ChatGPT 版本不符。如果微软急于宣布其产品的诞生是为了让谷歌黯然失色，那么它可能会忽略这一点。
这位专注于人工智能的专家认为，OpenAI 在 ChatGPT 上使用的强化学习很可能稍有变化就会发生故障带到聊天机器人。通过对 Prometheus 进行编程，微软可能会无意中破坏 OpenAI 安全措施的运行。
“也许大型语言模型的每次新更新都需要对强化学习模块进行彻底的重新训练”，加里·马库斯提出理论。
好歹，微软近期采取了强有力的措施结束普罗米修斯的创造力危机。今后，Bing助手的使用受到限制对于所有互联网用户。 Microsoft 将每次交流限制为每轮 5 个问题，每天 50 个问题。
尽管微软紧急颁布了这些变化，但 Arvind Narayanan 认为新 Bing 的部署是“不负责任”。迫不及待地与谷歌竞争，微软会隐藏“大规模破坏的非常明显的风险”。加里·马库斯也有同样的故事，他发现该公司将 Prometheus 交到用户手中是不谨慎的：
“我们不会这样对待新药品（我们要求在向公众发布之前进行仔细测试），我们也不应该这样对待语言模型，特别是如果数十亿人要使用它们的话。存在潜在的巨大风险。
Opera One - AI 驱动的网络浏览器
作者：歌剧
来源 ： 子栈
