Amazon เต็มไปด้วยหนังสือที่เขียนโดย generative AI งานเหล่านี้บางส่วนมีคำแนะนำที่เป็นอันตรายและอาจถึงแก่ชีวิตได้ บางครั้ง AI แนะนำให้ผู้ใช้อินเทอร์เน็ตรับประทานเห็ดพิษ...
การเกิดขึ้นของChatGPT, Google Bard และคนอื่นๆ ได้สับเปลี่ยนไพ่แห่งโลกหนังสือใหม่ ไม่น่าแปลกใจเลยที่ผู้คนจำนวนมากต้องพึ่งพาปัญญาประดิษฐ์เชิงสร้างสรรค์เพื่อเขียนหนังสือให้พวกเขา- ยักษ์อเมซอนได้รับเช่นกันเต็มไปด้วยคลื่นหนังสือที่เขียนโดย AIที่ร้าน Kindle
ในกรณีส่วนใหญ่ คอลเลกชันบทกวี คู่มือการใช้งาน นวนิยาย และหนังสือสำหรับเด็กเหล่านี้มีความโดดเด่นในเรื่องความธรรมดา โดยทั่วไปแล้วจะเต็มไปด้วยการประมาณ แนวคิดพื้นฐาน และการปรับปรุงเนื้อหาที่ถูกแฮ็ก น่าเสียดายที่หนังสือที่ออกแบบโดย AI อาจเป็นอันตรายต่อผู้ซื้อได้เช่นกัน
อ่านเพิ่มเติม:โรงเรียนนี้ใช้ ChatGPT ในลักษณะที่น่าแปลกใจ
อันตรายของหนังสือที่เขียนโดย AI
ค้นพบ New York Mycological Society ซึ่งเป็นองค์กรไม่แสวงหากำไรที่รวบรวมบุคคลที่หลงใหลเกี่ยวกับเห็ดมารวมตัวกันคำแนะนำที่อาจเป็นอันตรายถึงชีวิตในหนังสือบางเล่ม งานบางอย่างที่เกี่ยวข้องกับการเก็บและการบริโภคเห็ดดูเหมือนจะบอกเรื่องไร้สาระ คำอธิบายที่ระบุว่าเป็นเนื้อหาจาก AI เป็นเพียงการประมาณ ทำให้เข้าใจผิด และอาจทำให้มือใหม่เข้าใจผิด
หลังจากส่งคำอธิบายหลายรายการผ่านเครื่องตรวจจับ AI แล้ว เพื่อนร่วมงานของเราที่ 404Media ก็สามารถยืนยันได้ว่าหนังสือบางเล่มเกี่ยวกับเห็ดไม่ได้เขียนโดยมนุษย์ เพื่อสร้างความมั่นใจให้กับผู้อ่าน หนังสือเหล่านี้จึงเน้นย้ำถึงผู้แต่งที่เป็นมนุษย์... ซึ่งชื่อเป็นเพียงเรื่องสมมติล้วนๆ ผู้เขียนบางคนที่มีรายชื่ออยู่ใน Amazon ได้ตีพิมพ์หนังสือประเภทนี้ประมาณสิบเล่มภายในสองเดือน เราไม่พบข้อมูลที่เชื่อถือได้เกี่ยวกับบัญชีของพวกเขาบนเว็บ
ตามคำกล่าวของ Sigrid Jakob ประธาน New York Mycological Society ข้อผิดพลาดเชิงข้อเท็จจริงที่พบในหนังสือมีความเสี่ยงที่จะเป็นอันตรายต่อบุคคลที่เข้าสู่โลกของเห็ด:
“มีเห็ดพิษหลายร้อยชนิดในอเมริกาเหนือและหลายชนิดที่อันตรายถึงชีวิต พวกมันอาจมีลักษณะคล้ายกับสายพันธุ์ที่กินได้ยอดนิยม คำอธิบายที่ไม่ดีในหนังสืออาจทำให้คนกินเห็ดพิษได้ »-
มือใหม่สามารถซื้อหนังสือที่เขียนโดย AI ทำตามคำแนะนำของ AI และวางยาพิษตัวเองด้วยเห็ดที่ไม่ปลอดภัย ผลที่ตามมาอาจถึงแก่ชีวิตได้เน้นย้ำองค์กรที่เชื่ออย่างนั้นAI ยังไม่สามารถแยกแยะเห็ดทั้งหมดได้อย่างชัดเจน- เมื่อได้รับการแจ้งเตือนจาก New York Mycological Society Amazon จึงสั่งห้ามงานที่มีข้อผิดพลาดทันที:
“Amazon ประเมินเทคโนโลยีใหม่ๆ อย่างต่อเนื่อง และมุ่งมั่นที่จะมอบประสบการณ์การซื้อ การอ่าน และการเผยแพร่ที่ดีที่สุดเท่าที่จะเป็นไปได้ให้กับผู้เขียนและลูกค้าของเรา บรรณาธิการร้านค้าทุกคนจะต้องปฏิบัติตามหลักเกณฑ์ด้านเนื้อหาของเรา ไม่ว่าเนื้อหาจะถูกสร้างขึ้นมาด้วยวิธีใดก็ตาม เราลงทุนเวลาและทรัพยากรจำนวนมากเพื่อให้แน่ใจว่าปฏิบัติตามหลักเกณฑ์ของเรา และเราจะลบหนังสือที่ไม่ปฏิบัติตามหลักเกณฑ์เหล่านี้ออก”-
จึงไม่น่าแปลกใจที่ปัญญาประดิษฐ์สามารถสร้างเนื้อหาที่ผิดพลาดได้ AI ทั้งหมดตั้งแต่ ChatGPT ไปจนถึง Claude ไปจนถึง Bard มีแนวโน้มที่จะสร้างการตอบสนองที่ห่างไกลจากความเป็นจริงมาก มันเกิดขึ้นที่แบบจำลองทางภาษาเริ่มที่จะ "เห็นภาพหลอน" จริงๆ กล่าวคือ ประดิษฐ์คำตอบ หากไม่มีข้อมูลในคลังข้อมูลอ้างอิง จากนั้นแบบจำลองก็เริ่มด้นสด ซึ่งอาจทำให้เกิดข้อผิดพลาดหรือเรื่องไร้สาระได้ นี่คือสาเหตุที่ Savey Meal ซึ่งเป็น ChatGPT ของซูเปอร์มาร์เก็ตในนิวซีแลนด์เริ่มเสนอสูตรข้าวผสมสารฟอกขาวแก่คู่สนทนา...
🔴 เพื่อไม่พลาดข่าวสาร 01net ติดตามเราได้ที่Google ข่าวสารetวอทส์แอพพ์-
Opera One - เว็บเบราว์เซอร์ที่ขับเคลื่อนด้วย AI
โดย: โอเปร่า
แหล่งที่มา : 404มีเดีย
