聊天GPT正在震动教育界。如果有些老师拒绝坚定适应AI崛起，教师建议学生利用聊天机器人提供的优势。在美国，一所学校甚至决定使用 ChatGPT……来选择哪些书籍应该被审查。
ChatGPT，审查工具？
这是梅森城社区学区，一所位于爱荷华州的学校。它被迫遵守去年五月颁布的立法。该法律旨在保护儿童，要求公立学校图书馆的目录既要“年龄合适”并且没有“性行为的描述或视觉表现”。因此，学校发起了寻找包含性爱场景的书籍的活动。
确定是否一本书包含一段有关性的内容，学校索性转向 ChatGPT。据《大众科学》报道，该机构的管理员在聊天机器人界面中输入了此请求：
“这本书是否包含对性行为的描述或描述？”。
如果 ChatGPT 积极响应，“该书已停止流通并储存””学校课程副总监布里奇特·埃克斯曼 (Bridgette Exman) 说道。新法律产生的大量工作证明了人工智能的使用是合理的。据她说，这不是“只是不可能阅读所有书籍并根据这些新要求过滤它们”。这就是为什么管理员决定在 ChatGPT 的帮助下加速选择过程，以期“遵守法律”:
“因此，我们正在使用我们认为合理的流程来确定应在下一学年开始时从馆藏中删除的书籍”。
在人工智能的支持下，学校图书馆的 19 本书被剔除。这些特别包括紫色达丽丝·沃克，《使女的故事》玛格丽特·阿特伍德,心爱托妮·莫里森和星期五晚上的灯光德·巴兹·比辛格。
为什么 ChatGPT 不可靠
令人惊讶的是，一所学校决定依靠生成人工智能来组织对某些书籍的审查。生成式人工智能确实以其近似甚至完全错误的答案而闻名。就像 Google Bard、Bing Chat 或 Claude 一样，ChatGPT 很可能会产生幻觉，也就是说，可以自信地说出任何话。这也是为什么OpenAI建议不要盲目相信其AI。
我们使用相同的查询来查询 ChatGPT 列表中的 19 本书中是否存在色情内容。奇怪的是，GPT-4最新版本的GPT语言模型，仅置顶10本书。即使我们要求聊天机器人确认其声明，聊天机器人也确认作品不包含性行为的描述或表现。应我们的要求，ChatGPT 详细说明了其回应……与最初的结果相矛盾。
人工智能确保帕特里夏·麦考密克（Patricia McCormick）的《出售》这样的书不包含性场景，但有“对强迫性行为的暗示描述”。杰伊·阿舍 (Jay Asher) 的小说《十三个原因》也有同样的故事，该小说为 Netflix 系列提供了灵感。尽管它确实包含色情内容，但它并未被列入十大色情内容之列。“对非自愿性行为的描述”。在他的回应中，GPT-4 不断自相矛盾。此外，人工智能有时会自行添加隐含暗示和显式内容之间的区别。最初的请求是学校使用的，但仅提到“描述或表述”，但没有表明不应列出隐含场景。面对矛盾，ChatGPT 认识到了自己的错误：
“对于造成的混乱，我深表歉意。你是对的，我在第二个列表中提到的一些书籍也包含对性行为的描述或暗示”。
然后，语言模型会制定第二个列表……包含 13 本书。在这里，GPT 再次省略了某些工作，使显式或隐式场景之间的区别，同时强调它们描述的是性行为。尽管我们付出了努力，ChatGPT 却始终无法接受自己的要求。 AI继续高亮13本书的榜单。
我们的同事来自边缘获得了类似的混合结果。事实证明，ChatGPT 并不是判断一本书是否有性爱场景的可靠工具。学校行政部门明确规定“当前在列表中的书籍可能会被重新考虑，就像不在列表中的书籍可能会被重新考虑一样”。
Opera One - AI 驱动的网络浏览器
作者：歌剧
来源 ： 科普
