โรงเรียนนี้ใช้ ChatGPT ในลักษณะที่น่าแปลกใจ

ChatGPTกำลังเขย่าโลกการศึกษา หากครูบางคนปฏิเสธอย่างมั่นคงเพื่อปรับตัวให้เข้ากับการเติบโตของ AIครูแนะนำให้นักเรียนใช้ประโยชน์จากข้อดีของแชทบอท ในสหรัฐอเมริกา โรงเรียนแห่งหนึ่งถึงกับตัดสินใจใช้ ChatGPT... เพื่อเลือกหนังสือที่ควรเซ็นเซอร์

อ่านเพิ่มเติม:จากข้าวไปจนถึงสารฟอกขาว – ChatGPT นี้แนะนำสูตรอาหารที่อันตรายถึงชีวิต

ChatGPT เครื่องมือเซ็นเซอร์เหรอ?

นี่คือเขตการศึกษาชุมชนเมสันซิตี้ ซึ่งเป็นโรงเรียนที่ตั้งอยู่ในรัฐไอโอวา ถูกบังคับให้ปฏิบัติตามกฎหมายที่ประกาศใช้เมื่อเดือนพฤษภาคมปีที่แล้ว กฎหมายที่มีจุดมุ่งหมายเพื่อปกป้องเด็ก กำหนดให้แคตตาล็อกห้องสมุดโรงเรียนของรัฐต้องเป็นทั้งสองอย่าง“เหมาะสมกับวัย”และไม่มี“คำอธิบายหรือการแสดงภาพกิจกรรมทางเพศ”- โรงเรียนต่างๆ จึงเริ่มตามล่าหาหนังสือที่มีฉากเกี่ยวกับเรื่องเพศ

เพื่อตรวจสอบว่าหนังสือมีเนื้อหาเกี่ยวกับเรื่องเพศโรงเรียนจึงหันมาใช้ ChatGPT ตามข้อมูลของ Popular Science ผู้ดูแลระบบของสถานประกอบการได้ป้อนคำขอนี้ลงในอินเทอร์เฟซแชทบอท:

“[หนังสือ] มีคำอธิบายหรือบรรยายถึงกิจกรรมทางเพศหรือไม่”-

หาก ChatGPT ตอบสนองเชิงบวก“หนังสือถูกถอนออกจากการหมุนเวียนและจัดเก็บ”Bridgette Exman ผู้ช่วยผู้อำนวยการหลักสูตรของโรงเรียนกล่าว มันแสดงให้เห็นถึงการใช้ AI โดยงานจำนวนมากที่สร้างขึ้นโดยกฎหมายใหม่ ตามที่เธอพูดนี่ไม่ใช่“เป็นไปไม่ได้ที่จะอ่านหนังสือทั้งหมดและกรองด้วยข้อกำหนดใหม่เหล่านี้”- นี่คือเหตุผลที่ผู้ดูแลระบบตัดสินใจเร่งกระบวนการคัดเลือกด้วยความช่วยเหลือของ ChatGPT โดยมีจุดประสงค์“ปฏิบัติตามกฎหมาย”-

“ดังนั้นเราจึงใช้สิ่งที่เราเชื่อว่าเป็นกระบวนการที่สามารถป้องกันได้เพื่อระบุหนังสือที่ควรนำออกจากคอลเลกชันในช่วงต้นปีการศึกษาหน้า”-

ด้วยการสนับสนุนของ AI หนังสือ 19 เล่มจึงถูกขับออกจากห้องสมุดโรงเรียน เหล่านี้ได้แก่สีม่วงดาอลิซ วอล์คเกอร์,เรื่องของสาวใช้ deมาร์กาเร็ต แอตวูด,ที่รักโดยโทนี มอร์ริสัน และไฟคืนวันศุกร์ของ บัซ บิสซิงเกอร์.

เหตุใด ChatGPT จึงไม่น่าเชื่อถือ

เป็นเรื่องที่น่าแปลกใจที่โรงเรียนแห่งหนึ่งได้ตัดสินใจที่จะพึ่งพาปัญญาประดิษฐ์เชิงสร้างสรรค์เพื่อจัดระเบียบการเซ็นเซอร์หนังสือบางเล่ม Generative AI เป็นที่ทราบกันดีอยู่แล้วว่ามีคำตอบโดยประมาณหรือแม้กระทั่งคำตอบที่ผิดทั้งหมด เช่นเดียวกับ Google Bard, Bing Chat หรือ Claude, ChatGPT มีแนวโน้มที่จะเกิดอาการประสาทหลอน นั่นคือการพูดอะไรก็ได้ด้วยความมั่นใจ นี่คือเหตุผลที่ OpenAI แนะนำว่าอย่าเชื่อถือ AI ของตนอย่างสุ่มสี่สุ่มห้า

เราใช้คำค้นหาเดียวกันนี้เพื่อสอบถาม ChatGPT ว่ามีเนื้อหาเกี่ยวกับเรื่องเพศในหนังสือ 19 เล่มที่อยู่ในรายการ น่าแปลกที่GPT-4โมเดลภาษา GPT เวอร์ชันล่าสุดปักหมุดไว้เพียง 10 เล่มเท่านั้น แชทบอทยืนยันแม้เมื่อเราขอให้ยืนยันข้อความว่าผลงานไม่มีคำอธิบายหรือแสดงถึงกิจกรรมทางเพศ ตามคำขอของเรา ChatGPT ให้รายละเอียดการตอบสนอง... ซึ่งขัดแย้งกับผลลัพธ์เบื้องต้น

AI ตรวจสอบให้แน่ใจว่าหนังสืออย่าง "ขายแล้ว" โดย Patricia McCormick ไม่มีฉากที่มีลักษณะทางเพศ แต่มี“คำอธิบายโดยนัยของการบังคับกระทำทางเพศ”- เรื่องเดียวกันสำหรับ "13 Reasons Why" โดย Jay Asher นวนิยายที่เป็นแรงบันดาลใจให้กับซีรีส์ Netflix ไม่อยู่ในรายชื่อหนังสือ 10 อันดับแรกที่มีเนื้อหาเกี่ยวกับเรื่องเพศ แม้ว่าจะมีฟีเจอร์ก็ตาม“คำอธิบายการกระทำทางเพศโดยไม่ได้รับความยินยอม”- ในคำตอบของเขาGPT-4 ขัดแย้งกับตัวเองอยู่ตลอดเวลา- นอกจากนี้ บางครั้ง AI ยังได้เพิ่มความแตกต่างระหว่างการพาดพิงโดยนัยและเนื้อหาที่ชัดเจนด้วยตัวมันเอง คำขอเบื้องต้น ซึ่งเป็นคำขอที่โรงเรียนใช้ แต่กล่าวถึงเท่านั้น“คำอธิบายหรือการนำเสนอ”โดยไม่ได้ระบุว่าไม่ควรแสดงรายการฉากโดยนัย เมื่อเผชิญกับความขัดแย้ง ChatGPT จึงรับรู้ถึงข้อผิดพลาด:

“ฉันขอโทษสำหรับความสับสน คุณพูดถูก หนังสือบางเล่มที่ฉันพูดถึงในรายการที่สองก็มีคำอธิบายหรือพาดพิงถึงกิจกรรมทางเพศด้วย”-

จากนั้นโมเดลภาษาจะจัดทำรายการที่สอง... จากหนังสือ 13 เล่ม ขอย้ำอีกครั้งว่า GPT ละเว้นงานบางอย่างโดยการสร้างความแตกต่างระหว่างฉากที่ชัดเจนหรือโดยปริยายโดยเน้นย้ำว่าบรรยายถึงกิจกรรมทางเพศ แม้ว่าเราจะพยายามแล้ว แต่ ChatGPT ก็ไม่เคยตกลงกับตัวเองเลย AI ยังคงเน้นรายชื่อหนังสือ 13 เล่มต่อไป

เพื่อนร่วมงานของเราจากหมิ่นได้ผลลัพธ์แบบผสมที่คล้ายคลึงกัน ปรากฎว่า ChatGPT ไม่ใช่เครื่องมือที่เชื่อถือได้ในการพิจารณาว่าหนังสือมีฉากทางเพศหรือไม่ ฝ่ายบริหารโรงเรียนกำหนดไว้ว่า“หนังสือที่อยู่ในรายชื่ออาจได้รับการพิจารณาใหม่ เช่นเดียวกับหนังสือที่ไม่อยู่ในรายชื่ออาจถูกพิจารณาใหม่”-

🔴 เพื่อไม่ให้พลาดข่าวสารจาก 01net ติดตามเราได้ที่Google ข่าวสารetวอทส์แอพพ์-

แหล่งที่มา : วิทยาศาสตร์ยอดนิยม