你们中有些人可能还记得泰艾，这个“智能”聊天机器人，微软在十六小时后被迫断开连接，因为它很快就变成了新纳粹和性别歧视的机器人。必须说，它本来是应该从与用户的接触中学习的，但后者并没有好意。
YouTuber Yann Kilcher（同时拥有哲学和人工智能博士学位）甚至做得更糟，但他是故意的。他使用由 4chan 的“政治不正确”部分的三年消息组成的数据集来训练基于 GPT-J 6B 模型的对话聊天机器人。这个部分是 4chan 上最糟糕的部分之一，因为它充满了种族主义、阴谋论、性别歧视等评论。毫不奇怪，由此创建的人工智能完全反映了这些训练数据。名为“GPT-4chan”，是充满仇恨的怪物。
为了测试他的生物，Yann Kilcher 将他连接到大约 10 个假 4chan 帐户，并让他与“政治不正确”部分的用户互动。在 24 小时内，这些机器人生成了 15,000 多条消息并愚弄了大多数对话者。这些信息是如此可信，以至于人类用户并不认为他们正在与机器人打交道。相反，他们怀疑……是政府行动。考虑到该部分的性质，这最终是非常合乎逻辑的。
几天后，4chan用户仍然发现了这个问题。事实上，机器人有时会有发布空消息的烦人习惯，这特别奇怪。从那时起，机器人理论就开始流行，Yann Kilcher 最终揭露了这一骗局。干得好艺术家！
来源 ： 一个小工具
