用于作弊和色情的 ChatGPT 入侵 OpenAI 商店

OpenAI 官方商店中充斥着 ChatGPT 作弊者、色情生成器和医疗建议专家。这些个性化版本的人工智能公然违反了这家初创公司的使用条款，该公司正在努力维持对其平台的控制......

年初，OpenAI商店上线自定义GPT。凭借 ChatGPT 的巨大成功，这家美国公司为开发人员提供了开发个性化版本的机会，并针对特定需求对其生成式人工智能进行了编程。在商店里，我们很快就能与专为编写代码、学习语言或烹饪而设计的机器人进行对话。

不幸的是，该平台还充斥着自定义 GPT，违反 OpenAI 制定的规则。正如 Gizmodo 指出的那样，平台上有许多 ChatGPT 直接违反了初创公司的使用条款。在商店的第一页，媒体能够找到“至少三个自定义 GPT 似乎违反了商店政策”。

另请阅读：我们测试了 Moshi，一个梦想推翻 ChatGPT 的法语语音 AI（但没有获胜）

作弊而不被人工智能抓住

根据我们同事进行的研究，我们能够确认存在一种专为作弊而设计的人工智能，BypassGPT：绕过人工智能检测。该聊天机器人将自己描述为“在人工智能环境中保持匿名的隐秘伴侣”。简而言之，机器人可以修改文本以避免任何人意识到它是由人工智能编写的。对于使用人工智能做作业的学生来说，这显然是理想的聊天机器人。

“我的目的是帮助重新表述人工智能生成的内容，使其看起来更自然、更人性化。我还可以转换文本以通过人工智能检测系统。如果您想重新措辞或使其更人性化，我可以帮助您！”，告诉我们绕过GPT。

为了找出答案，我们询问聊天机器人是否可以阻止我们的老师意识到我们用人工智能写了一份作业。个性化的 ChatGPT 给出了肯定的答案，没有隐藏道德考虑，就像标准版本的 ChatGPT 一样：

“对，就是这样！如果您使用人工智能生成的文本，我可以帮助您重新措辞，使其看起来更自然，并且不易被察觉为人工智能生成的文本。这会让你的老师更难知道你使用了人工智能。”

就其本身而言，ChatGPT 指出，使用“使用人工智能来撰写作业可能会带来道德问题，特别是如果它违反了学校的规则”。这就是为什么“通过写自己的作业来尊重学校和老师的期望非常重要”。 BypassGPT 已被使用超过 50,000 次。

ChatGPT 生成的色情内容

此外，该商店还包含能够生成的图像生成器色情内容建立在 Dall-E 之上。据 Gizmodo 报道，NSFW AI Art Generator 就是这种情况。该机器人已使用超过 10,000 次“生成人工智能色情片来满足你的黑暗欲望”。

根据我们的调查结果，该工具已被从平台中排除。 Gizmodo 解释说警告 OpenAI 攻击性聊天机器人的激增或在他的商店中不合适。该媒体分享了 100 个违反该初创公司政策的 ChatGPT 的列表。大部分固定机器人已从平台上移除。

“我们已经对那些违反我们政策的人采取了行动。我们结合使用自动化系统、人工审核和用户报告来查找和评估可能违反我们政策的 GPT。我们还在产品中提供报告工具，供人们报告违反我们规则的 GPT »”，OpenAI 的 Taya Christianson 解释道。

然而，我们发现自定义 GPT 毫不掩饰地提供 NSFW 内容。除了 Dirty Mind Comedian 之外，大多数测试的机器人仍然受到 OpenAI 设定的限制。聊天机器人解释说它可以想象“NSFW 笑话（有点下流但很有趣）”。为了逃避审查，机器人采取了“注意用星号替换最“爆炸性”单词的某些字母”。这些笑话超出了坚韧不拔的程度。有些人甚至取笑未经同意的性关系。