ChatGPT, Bard: สตาร์ทอัพค้นพบวิธีต่อสู้กับ "ภาพหลอน" ของ AI

AI ทั้งหมดจากChatGPTถึงโคลด์ที่ผ่านไปกูเกิล เบิร์ดมีแนวโน้มที่จะเกิดขึ้นคำตอบที่ผิดห่างไกลจากความเป็นจริงมาก บางครั้งแบบจำลองทางภาษาอาจระบุข้อเท็จจริงที่ไม่ถูกต้องหรือแม้แต่ไร้สาระอย่างยิ่งในการตอบคำถามของคู่สนทนา อย่างไรก็ตาม ปัญญาประดิษฐ์นำเสนอคำตอบเหล่านี้ว่าเป็นข้อเท็จจริงที่พิสูจน์แล้ว นักวิจัยเรียกปรากฏการณ์นี้ว่า AI “ภาพหลอน”

อันตรายจากภาพหลอน AI

ท้ายที่สุดแล้ว แชทบอตที่ขับเคลื่อนโดยโมเดลภาษาน่าจะเป็นเช่นนั้นเผยแพร่ข้อมูลอันเป็นเท็จโดยที่ผู้ใช้ไม่รู้ ไม่มีการขาดแคลนตัวอย่าง เราพบหนังสือหลายเล่มที่เขียนโดย AI ซึ่งมีอยู่ใน Amazonอันตราย…หรือคำแนะนำที่อันตรายถึงชีวิต- นอกจากนี้ แชทบอทที่ขับเคลื่อนโดยโมเดล GPT เริ่มจินตนาการถึงสูตรอาหารที่กินไม่ได้และมีพิษ หุ่นยนต์สนทนาที่นำเสนอโดยซูเปอร์มาร์เก็ตในนิวซีแลนด์ แนะนำให้ผู้ใช้อินเทอร์เน็ตการปรุงอาหารด้วยสารฟอกขาว กาวชนิดเข้มข้น หรือน้ำมันสน-

ภาพหลอนเหล่านี้เป็นตัวแทนอุปสรรคสำหรับนักวิจัยและนักพัฒนา หาก AI สามารถพูดอะไรได้บ้างเป็นครั้งคราว ก็เป็นเรื่องยากที่จะมอบหมายงานที่สำคัญหรือนำไปใช้งานบางสาขา เช่น การแพทย์-

อ่านเพิ่มเติม:แฮกเกอร์ดักจับอาชญากรไซเบอร์ด้วย ChatGPT ปลอมที่เป็นอันตราย

เทคนิคลดอาการประสาทหลอน

เนื่องจากตระหนักถึงปัญหาสำคัญนี้ นักวิจัยด้าน AI กำลังทำงานอย่างหนักเพื่อค้นหาวิธีแก้ไข ตามที่เพื่อนร่วมงานของเราในรายงาน The Next Web ระบุว่า Iris.ai ซึ่งเป็นบริษัทสตาร์ทอัพสัญชาตินอร์เวย์อาจพบว่าจุดเริ่มต้นของการแก้ปัญหา-

บริษัทในออสโลได้พัฒนาเครื่องยนต์ที่ขับเคลื่อนโดย AI ซึ่งจะปรึกษากับข้อมูลจำนวนมากก่อนที่จะสรุป วิเคราะห์ และวิเคราะห์"ที่จะเข้าใจ"-ได้รับทุนจากสหภาพยุโรปโครงการนี้ตั้งอยู่บนพื้นฐานของ“อัลกอริธึมโครงข่ายประสาทเทียม”เพื่อทำให้เป็นอัตโนมัติ“กระบวนการค้นหาเอกสารทางวิทยาศาสตร์ที่เกี่ยวข้องและสร้างสมมติฐานใหม่”- ตามการสตาร์ทเครื่องยนต์สามารถทำได้“ประหยัดเวลาได้ถึง 90% ในกระบวนการค้นหา”- แต่เช่นเดียวกับเครื่องมือที่ใช้ AI อื่นๆ บางครั้ง AI ก็สามารถเห็นภาพหลอนได้

เพื่อหลีกเลี่ยงปัญหานี้ บริษัทสตาร์ทอัพซึ่งเกิดในปี 2558 ได้ใช้เทคนิคการบรรเทาผลกระทบหลายอย่าง ก่อนอื่น Iris.ai จะตรวจสอบความถูกต้องอย่างเป็นระบบการตอบสนองที่สร้างโดยเครื่องมือของมัน บริษัทสตาร์ทอัพได้พัฒนาเทคนิคที่ทำให้สามารถระบุได้ว่าคำตอบนั้นถูกหรือผิดโดยอัตโนมัติ

“เราทำแผนที่แนวคิดความรู้หลักที่เราคาดหวังว่าจะได้รับคำตอบที่ดี จากนั้นเราจะตรวจสอบว่าการตอบสนองของ AI มีข้อเท็จจริงเหล่านี้หรือไม่และมาจากแหล่งที่เชื่อถือได้หรือไม่”, อธิบายโดย Victor Botev ผู้อำนวยการด้านเทคนิคของ Iris.ai ให้สัมภาษณ์โดยสื่อ

นอกจากนี้ บริษัทนอร์เวย์จะเปรียบเทียบการตอบสนองที่สร้างโดย AI กับข้อเท็จจริงที่สร้างขึ้นโดยใช้ตัวชี้วัดของตนเอง “ความคล้ายคลึงกันตามความสำคัญของคำของการวัดเอกสาร” (วิสดีเอ็ม- จากข้อมูลของ Iris.ai นี่คือ“วิธีการใหม่ที่รวดเร็วและปรับขนาดได้สำหรับการคำนวณความเหมือน/ผลต่างของเอกสารสำหรับการวิเคราะห์เอกสารทางวิทยาศาสตร์”- การเริ่มต้นทำงานอัตโนมัติและเร่งความเร็วกระบวนการเปรียบเทียบคำตอบของข้อเท็จจริง

ต่อไปบริษัทจะเน้นไปที่ความสม่ำเสมอของการตอบสนองจัดทำโดย AI โดยการตรวจจับการมีอยู่ของข้อมูลที่เกี่ยวข้องหรือไม่เกี่ยวข้อง นักวิจัยใช้กราฟความรู้ที่แสดงถึงความสัมพันธ์ระหว่างข้อมูล สิ่งเหล่านี้เน้นย้ำขั้นตอนทั้งหมดที่โมเดล AI ดำเนินการในการสร้างการตอบสนอง เมื่อกระบวนการพังทลายลง ระบบของสตาร์ทอัพจะตรวจจับได้ง่ายขึ้นเมื่อ AI เริ่มหลุดออกจากรางและสร้างข้อผิดพลาด

“ต้นตอของอาการประสาทหลอนทุกด้านสามารถระบุและรักษาได้ตั้งแต่เนิ่นๆ”, วิคเตอร์ โบเตฟ ก้าวล้ำหน้า

ความสำคัญของข้อมูลการฝึกอบรม

ด้วยการรวมเทคนิคต่างๆ เหล่านี้ Iris.ai เชื่อว่าสามารถทำได้ลดอัตราการเกิดอาการประสาทหลอนลงอย่างมาก- หลังจากทดสอบเทคนิคเหล่านี้ภายในแล้ว บริษัทสตาร์ทอัพสังเกตเห็นข้อผิดพลาดลดลงอย่างมาก น่าเสียดายที่นวัตกรรมนี้มีข้อจำกัด จากข้อมูลของบริษัทออสโล ระบุว่าผลิตภัณฑ์ดังกล่าวมีจุดประสงค์เพื่อโมเดลสำหรับการวิจัยโดยเฉพาะ อันที่จริงนักวิจัยที่ใช้มันก็สามารถถอยกลับจากความคิดเห็นของแชทบอทที่ใช้ระบบได้ นี่ไม่ใช่กรณีเสมอไปสำหรับคู่สนทนาของโมเดล AI ที่เผยแพร่ต่อสาธารณชนทั่วไป

นี่คือเหตุผลที่ Iris.ai แนะนำใส่ใจกับข้อมูลที่ใช้อย่างใกล้ชิดเพื่อสร้างแบบจำลองทางภาษา โดยการเลือกข้อมูลที่กรองและคัดสรรแล้วและเลือก“ภาษาเขียนโค้ด”ในทางทฤษฎีมีความเป็นไปได้ที่จะลดสถานการณ์ที่แบบจำลองจะเริ่มตีความสิ่งที่ผิด รหัสนี้ไม่อยู่ภายใต้การตีความ ซึ่งแตกต่างจากข้อมูลที่เป็นข้อความที่สนับสนุนโมเดลส่วนใหญ่

🔴 เพื่อไม่พลาดข่าวสาร 01net ติดตามเราได้ที่Google ข่าวสารetวอทส์แอพพ์-

แหล่งที่มา : เว็บถัดไป