聊天GPT正在震動教育界。如果有些老師拒絕堅定適應AI崛起，教師建議學生利用聊天機器人提供的優勢。在美國，一所學校甚至決定使用 ChatGPT……來選擇哪些書籍應該被審查。
ChatGPT，審查工具？
這是梅森城社區學區，一所位於愛荷華州的學校。它被迫遵守去年五月頒布的法案。該法旨在保護兒童，要求公立學校圖書館的目錄既要“年齡合適”並且沒有“性行為的描述或視覺表現”。因此，學校發起了尋找包含性愛場景的書籍的活動。
確定是否一本書包含一段有關性的內容，學校索性轉向 ChatGPT。根據《大眾科學》報道，該機構的管理員在聊天機器人介面中輸入了此請求：
“這本書是否包含對性行為的描述或描述？”。
如果 ChatGPT 積極回應，“該書已停止流通並儲存”」學校課程副總監布里奇特·埃克斯曼 (Bridgette Exman) 說。新法律產生的大量工作證明了人工智慧的使用是合理的。據她說，這不是“只是不可能閱讀所有書籍並根據這些新要求過濾它們”。這就是為什麼管理員決定使用 ChatGPT 來加速選擇流程，以期“遵守法律”:
“因此，我們正在使用我們認為合理的流程來確定應在下一學年開始時從館藏中刪除的書籍”。
在人工智慧的支持下，學校圖書館的 19 本書被剔除。這些包括紫色達麗絲沃克，《使女的故事》瑪格麗特·阿特伍德,心愛托妮·莫里森和星期五晚上的燈光德·巴茲·比辛格。
為什麼 ChatGPT 不可靠
令人驚訝的是，一所學校決定依靠生成人工智慧來組織對某些書籍的審查。生成式人工智慧確實以其近似甚至完全錯誤的答案而聞名。就像 Google Bard、Bing Chat 或 Claude 一樣，ChatGPT 很可能會產生幻覺，也就是說，可以自信地說出任何話。這也是為什麼OpenAI建議不要盲目相信其AI。
我們使用相同的查詢來查詢 ChatGPT 清單中的 19 本書中是否存在色情內容。奇怪的是，GPT-4最新版本的GPT語言模型，僅置頂10本。即使我們要求聊天機器人確認其聲明，聊天機器人也確認作品不包含性行為的描述或表現。應我們的要求，ChatGPT 詳細說明了其回應…與最初的結果相矛盾。
人工智慧確保帕特里夏·麥考密克（Patricia McCormick）的《出售》這樣的書不包含性場景，但有“對強迫性行為的暗示描述”。傑伊阿舍 (Jay Asher) 的小說《十三個原因》也有同樣的故事，這也為 Netflix 系列提供了靈感。儘管它確實包含色情內容，但它並未被列入十大色情內容之列。“非自願性行為的描述”。在他的回應中，GPT-4 不斷自相矛盾。此外，人工智慧有時會自行添加隱含暗示和顯式內容之間的差異。最初的請求是學校使用的，但僅提到“描述或表達”，但沒有表明不應列出隱含場景。面對矛盾，ChatGPT 體認了自己的錯誤：
「對於造成的混亂，我深表歉意。你是對的，我在第二個清單中提到的一些書籍也包含對性行為的描述或暗示”。
然後，語言模型會制定第二個清單…包含 13 本書。在這裡，GPT 再次省略了某些工作，使顯式或隱式場景之間的區別，同時強調它們描述的是性行為。儘管我們付出了努力，ChatGPT 始終無法接受自己的要求。 AI繼續高亮13本書的榜單。
我們的同事來自邊緣獲得了類似的混合結果。事實證明，ChatGPT 並不是確定一本書是否有性愛場面的可靠工具。學校行政明文規定“當前在列表中的書籍可能會被重新考慮，就像不在列表中的書籍可能會被重新考慮一樣”。
Opera One - AI 驅動的網頁瀏覽器
作者：歌劇
來源 ： 科普
