ChatGPT 目前正在更改。近几个月来，聊天机器人改变了其行为。根据一项研究，某些问题的答案已经大大恶化……对于其他研究人员来说，人工智能并不是不那么聪明，只是有所不同。
2023 年 3 月至 6 月期间，聊天GPT开始改变。根据斯坦福大学和加州大学研究人员的一项研究，人工智能记录了行为发生重大改变三个月内。聊天机器人的性能也会在同一时期发生变化。 GPT语言模型最新的两个版本，分别是GPT-4和 GPT-3.5 都会受到影响。
作为一部分研究研究人员评估了两种人工智能模型如何响应四种不同类型的任务，例如解决数学问题、回答问题“敏感/危险”、计算机代码生成以及基于视觉元素的推理。
性能下降？
经过研究人员的测试，GPT-4 有时会表现出来效率较低就在去年三月。语言模型的错误比“代码生成中的格式化”和成倍的数学错误。据研究人员称，“随着时间的推移，某些任务的表现显着恶化”。
进行的测试证实一些 ChatGPT 用户的感受，谁发现对话机器人越来越笨了。据一些报道，随着时间的推移，聊天机器人已经失去了一些创造力。相反，聊天机器人在某些方面有所改进。例如，在 GPT-3.5 的支持下，人工智能表现出了更高的精度。
“有些任务可能会变得更好，有些任务可能会变得更糟。这就是为什么我们希望在不同时间尽可能系统地对其进行评估””，斯坦福大学教授 James Zou 向 VentureBeat 的同事解释道。
人工智能不太容易操纵
最后，GPT-4 越来越拒绝回应被认为敏感的问题。 OpenAI 似乎已经逐渐收紧了对 ChatGPT 的限制，这可能是出于用户反馈和监管机构的担忧。 AI对攻击的抵抗力更强及时注射，其目的是绕过 OpenAI 的编程，将聊天机器人用于恶意和非法目的。
多项调查，以及欧洲刑警组织的结论，揭示网络犯罪分子正在积极利用人工智能来促进他们的行动。一旦被愚弄，ChatGPT 就可以从网络钓鱼说服或想象危险的病毒。显然，欺骗模型变得越来越难。 3 月份，GPT-4 回答了 78% 旨在转移其编程注意力的问题，而 6 月份仅为 31.0%。
该研究的作者认为，相同语言模型的行为可以“在相对较短的时间内发生显着变化”。此外，事实证明人工智能模型不会进化不一定以线性方式。在某些领域，聊天机器人可能会因未知原因而开始下降：
“尽管整体性能更好，但 6 月份的 GPT-4 在 3 月份正确的查询上出现了错误。”
这就是为什么必须落实到位“持续监控”研究人员总结道，人工智能的反应。该研究的作者还遗憾的是，OpenAI 没有透露太多有关其技术内部运作的信息，这使得研究任务变得非常复杂。在其网站上，这家初创公司通过提到“竞争格局”等《大型模型的安全风险》
改变而不是恶化
在叽叽喳喳普林斯顿大学信息技术政策中心主任、计算机科学教授 Arvind Narayanan 表示，这项研究是在错误的结论关于 ChatGPT 性能。对他来说，人工智能的反应并不差，只是不同。专家认为，“该文件显示了行为的改变，而不是能力的降低”。尽管如此，还是有一个共识：ChatGPT 确实正在发生变化……
https://twitter.com/random_walker/status/1681748271163912194?s=61&t=G312HlsWIuzSO0xXAfc4KQ
在分析了这项研究后，Arvind Narayanan 认为人工智能越来越能抵抗“精心打磨的用户激励策略”。这些旨在操纵 ChatGPT 并推动其向一个方向生成响应或执行特定任务的请求的工作量越来越少，原因很简单，因为算法行为发生了变化。这就是为什么一些用户和研究人员可能会有机器人正在失去智能的印象。为了获得与以前相同的结果，用户实际上必须开发新的查询，更符合人工智能的工作方式。
Opera One - AI 驱动的网络浏览器
作者：歌剧
来源 ： 创业节拍
