当您开发一个工具并且它无效时，您有两个选择：要么尝试改进它。要么将其从市场上移除。这就是他选择的开放人工智能凭借其人工智能检测工具，“人工智能分类器”，这让教学界非常沮丧，他们依靠这个系统将对话机器人生成的副本与其他机器人分开。 ChatGPT 背后的初创公司于 7 月 20 日非常谨慎地在其博客页面上添加了一条注释，宣布了此次撤回的消息。原因是什么？其精度太低了。了解：它的无效性。
«自 2023 年 7 月 20 日起，AI 分类器由于准确率较低而不再可用。我们正在努力整合反馈，目前正在研究更有效的文本（检测）技术，我们致力于开发和部署允许用户了解音频或视觉内容是否由人工智能生成的机制。»，OpenAI 写道。因此，可以采用其他工具，但没有就此主题给出任何指示。
对于英文文本：只有四分之一的情况被正确检测到
因此，“AI 分类器”只存在了六个月。而早在去年 1 月，也就是其推出的月份，OpenAI 就已经发出了警告。它的检测系统不是“不完全可靠”。该初创公司随后解释说，其工具可以清楚地区分人类编写的文本和人工智能生成的文本。但她还指出，根据对英文文本进行的一系列测试，她的工具缺乏精度。 AI 分类器正确地将其识别为“可能是AI写的» 26% 的文本由人工智能编写——或者说只有四分之一。在几乎十分之一的情况下，该工具将人类编辑编写的文本归类为人工智能生成的文本，即我们所说的误报。
自去年 11 月 ChatGPT 启动以来，对提供此类系统的需求一直很强烈，特别是在教育和艺术领域。由于缺乏这样的工具，ChatGPT 和其他生成式人工智能工具在许多大学或艺术比赛中被禁止。但这不仅仅是作弊或保护艺术家的问题：这项技术还存在操纵舆论的风险，人工智能能够用来制作深度赝品或比真人更大的照片，模糊了现实与虚构之间的界限。
“由人工智能生成”的提及不是强制性的
协会和众多人士继续就这一点发出警报，特别是考虑到下一次选举。因为目前不仅没有检测工具。但提及“由人工智能生成”，这将使我们能够区分事物，但不是强制性的。在美国，某些美国总统候选人的支持者毫不犹豫地使用这种廉价的技术来表达他们的想法。几周前，一个来自共和党阵营的视频描述了乔·拜登连任时的世界末日由人工智能生成的，并不总是包含“由人工智能生成”一词。
事实上，即使是 ChatGPT 背后的公司也无法建立一个系统来检测其自己的工具生成的内容，这一事实并不令人放心。特别是因为目前该领域没有具有约束力的立法。只有未来的欧洲人工智能法规包含一项强制提及“人工智能生成”的条款，但没有具体说明这在技术上如何实现。而且似乎还没有一种可靠的工具来区分人类的工作和人工智能的工作。
但情况可能很快就会改变。根据一份新闻稿，在美国，包括 OpenAI、微软、谷歌、Meta 和亚马逊在内的七家该行业公司已（自愿）承诺在人工智能生成的文本、音频和视频内容上设置水印。白宫。目标：“减少欺诈和欺骗的危险», 指定文本的作者。这个意向声明是否会得到跟进？
来源 ： d'OpenAI 博客
