要知道什么
- OpenAI 已经有了一种文本水印方法，尽管其发布正在“考虑”并在内部进行辩论。
- 最近的报告表明，水印文本不会影响 ChatGPT 的输出质量，并且该方法对于本地篡改和释义仍然具有鲁棒性。
- 但 OpenAI 认为文本水印会对非英语使用者产生不成比例的影响，使人工智能聊天机器人的使用蒙受耻辱，并阻止用户使用 ChatGPT。
学生使用 ChatGPT 来写作业对于老师和教授来说是一场噩梦。但看来 OpenAI 可能有办法判断给定文本是否由 ChatGPT 生成。
根据华尔街日报，OpenAI 已经有一个系统可以为 ChatGPT 生成的文本添加水印。但它正在考虑是否发布它，理由是涉及的几个问题和复杂性，并可能推迟那些不想使用人工智能生成文本被发现的用户。
在更新的博客OpenAI 在其关于人工智能文本检测的研究的帖子中指出：“我们的团队开发了一种文本水印方法，我们在研究替代方案时会继续考虑该方法”。
文本水印方法并非没有问题和复杂性，并且可能会对人工智能生成的内容产生负面影响。但该公司声称，他们的文本水印方法是专门为 ChatGPT 生成的内容开发的，非常准确，误报率非常低。
据《华尔街日报》报道，“技术……可以以 99% 的确定性检测人工智能编写的文本，”所以水印方式不会影响ChatGPT的输出质量。
文本水印方法的工作原理是稍微调整人工智能选择单词的方式，并创建单词和短语出现的可预测模式。
尽管该方法被证明可以有效防止释义和局部篡改，但 OpenAI 指出“它对全球化篡改的鲁棒性较差；比如使用翻译系统，用另一个生成模型重新措辞，或者要求模型在每个单词之间插入一个特殊字符，然后删除该字符——这使得不良行为者的规避变得微不足道。”
为了解决这些问题，OpenAI 已经开始研究另一种水印方法，该方法使用嵌入式元数据并且不会产生误报，而文本水印在应用于大量文本时可能会导致更多误报。
根据他们的研究，OpenAI 还认为文本水印方法对某些群体的影响可能比其他群体更大，并可能导致非母语人士对人工智能聊天机器人的污名化。
但更重要的是，该公司担心，如果实施水印方法，许多当前用户将减少使用 ChatGPT。目前，内部关于是否发布文本水印方法的争论仍在继续。至于替代元数据水印方法，OpenAI仍处于早期探索阶段。因此，现在判断该方法是否有效还为时过早。
