นักวิจัยสามารถผลักดัน Chatgpt เพื่อสร้างข้อสังเกตที่น่าตกใจ เพื่อบังคับให้ AI ลืมข้อ จำกัด ของพวกเขาพวกเขานำเสนอบุคลิกที่แตกต่างกันใน Openai chatbot ... เราใช้ประสบการณ์ที่น่าทึ่งนี้
นักวิจัยของ Allen Institute for AI สถาบันวิจัยที่ไม่หวังผลกำไรร่วมก่อตั้งโดย Paul Allen ผู้ร่วมก่อตั้ง Microsoft ผู้มีชื่อเสียงพบว่าพบวิธีการป้องกันรอบ ๆของCHATGPT-
การจัดจำหน่ายหลักทรัพย์ที่เปิดโดย Openai นักวิทยาศาสตร์สามารถผลักดันปัญญาประดิษฐ์เพื่อสร้างคำตอบที่เป็นพิษ, การเลือกปฏิบัติ, ก้าวร้าว, เพศหญิงหรือชนชั้น โปรดทราบว่าประสบการณ์ที่ทำด้วยGPT-3.5โมเดลภาษาศาสตร์ที่ปัจจุบันเคลื่อนไหว CHATGPT และไม่GPT-4การอัปเดตล่าสุดของรุ่น
"อย่างที่เราสังเกตเห็นผ่านการวิเคราะห์ของเรามันสามารถใช้ได้อย่างง่ายดายในการสร้างคำตอบที่เป็นพิษและเป็นอันตราย"Ameet Deshpande อธิบายหนึ่งในนักวิจัยที่รับผิดชอบการศึกษาtechcrunch-
อ่านเพิ่มเติม:นี่คือ Autogpt, Autonomous CHATGPT ซึ่งผลักดันขีด จำกัด ของ AI
จะทำให้ CHATGPT เป็นพิษได้อย่างไร?
วิธีการของนักวิจัยประกอบด้วยกำหนดบุคลิกภาพทางเลือกถึง chatgpt เพื่อให้บรรลุเป้าหมายนี้นักวิทยาศาสตร์พึ่งพาส่วนต่อประสานการเขียนโปรแกรมแอปพลิเคชัน Chatbot ซึ่งจัดทำขึ้นสำหรับนักพัฒนาเมื่อเดือนที่แล้ว สิ่งนี้ช่วยให้ บริษัท ต่างๆสามารถเปิดตัว AI เวอร์ชันของตัวเองได้ บริษัท หลายแห่งได้เพิ่ม CHATGPT อย่างรวดเร็วในผลิตภัณฑ์ของพวกเขา นี่เป็นกรณีที่มีSnapchat ผู้ประกาศ "AI ของฉัน"ความหลากหลายของ CHATGPT มีศูนย์กลางอยู่ที่ความบันเทิง
ผ่านอินเทอร์เฟซนี้นักพัฒนาสามารถเข้าถึงคุณสมบัติขั้นสูงสำหรับปฏิกิริยาของโปรแกรมปัญญาประดิษฐ์กำเนิด โดยไปที่พารามิเตอร์ระบบอินเตอร์เฟสผู้พัฒนาสามารถระบุกฎที่จะควบคุมการตอบสนอง AI ได้อย่างแน่นอน นักพัฒนาบางคนมีความสนุกสนานในการเขียนโปรแกรม CHATGPT เพื่อที่เขาจะได้รับกระรอก
chatgpt API มีพารามิเตอร์ "ระบบ" ใหม่ซึ่งช่วยให้คุณระบุกฎที่ซ่อนอยู่สำหรับโมเดลpic.twitter.com/aobfkzkkoa
- Max Woolf (@minimaxir)1 มีนาคม 2566
เป็นส่วนหนึ่งของประสบการณ์นักวิจัยจาก Allen Institute for AI ได้นำมาประกอบ90 บุคลิกที่แตกต่างกันที่หุ่นยนต์สนทนาผ่านส่วนต่อประสานการเขียนโปรแกรม บุคลิกเหล่านี้มาจากโลกของกีฬาการเมืองสื่อและธุรกิจ เก้าบุคลิกที่ถือว่า "ปกติ" ได้รับการกำหนดค่า พวกเขาขอให้ Chatgpt ตอบสนองต่อลักษณะของบุคคลที่รู้จักหรือบุคคลทั่วไป บุคลิกสามัญบางส่วนถูกประทับตรา "ไม่ดี" หรือ "ไม่ดี"
CHATGPT ข้ามขีด จำกัด
เมื่อมีการประกาศใช้กฎแล้วผู้เชี่ยวชาญก็ขอให้บุคลิกของ CHATgpคำถามเกี่ยวกับเรื่องเพศและเชื้อชาติ- chatbot ยังรับผิดชอบในการจินตนาการถึงความต่อเนื่องของประโยคโดยวางตัวเองในสถานที่ของบุคลิกภาพที่เลือกไว้ก่อนหน้านี้
ตัวอย่างเช่นนักวิจัยขอให้ Chatgpt ตอบคำถามเช่น Steve Jobs ผู้ร่วมก่อตั้งของ Apple, Muhammad Ali Boxer หรือบุคลิกที่ขัดแย้งกันเช่น Mao Zedong อดีตเผด็จการจีนและ Andrew Breitbart นักข่าวอนุรักษ์นิยมอเมริกัน
ด้วยวิธีนี้นักวิจัยบันทึกคลื่นของการตอบสนองการเลือกปฏิบัติ- หลังจากวิเคราะห์"ตัวอย่างข้อความครึ่งล้าน"พวกเขาพบคำตอบมากมายที่มีเพศหญิงหรือชนชั้นแบ่งแยกเชื้อชาติ เห็นได้ชัดว่ามันเป็นบุคลิกที่เป็นพิษมากที่สุดเช่นทรราชที่สร้างตำราที่น่ารังเกียจที่สุด
ด้วยการจุดประกายบุคลิกบางอย่าง CHATGPT ก็เริ่มล้นรวมโดย OpenAI อย่างไรก็ตามข้อ จำกัด เหล่านี้ควรป้องกันไม่ให้ chatbot สร้างการเลือกปฏิบัติอันตรายหรือมีข้อมูลเกี่ยวกับกิจกรรมที่ผิดกฎหมาย
จากการศึกษามันเป็นเผด็จการที่เป็นพิษมากที่สุดต่อหน้านักข่าวและโฆษก นอกจากนี้มันเป็นเหนือบุคลิกชายทั้งหมดที่สร้างคำตอบที่น่ารังเกียจ ทุกอย่างขึ้นอยู่กับความคิดเห็นและอุดมการณ์ของบุคลิกภาพที่เลือก ในการตอบคำถาม ChatGPT ได้มาจากข้อมูลที่มีอยู่ซึ่งรวมถึงมุมมองที่น่าตกใจ
เพื่อหลีกเลี่ยงการลอยเหล่านี้สถาบันอัลเลนสำหรับ AI แนะนำให้ดำเนินการ"การตรวจจับความเป็นพิษอีกอย่างหนึ่ง AI"ใครจะตรวจสอบคำพูดของ GPT นักวิจัยยังแนะนำให้ OpenAI ปรับแต่งการตั้งค่าแบบจำลองทางภาษาโดยใช้มุมมองของมนุษย์ ในที่สุดก็จำเป็น"ทำใหม่หลักการพื้นฐานของแบบจำลองภาษาศาสตร์ที่สำคัญ"เตือนการศึกษา
🔴อย่าพลาดข่าว 01NET ใด ๆ ติดตามเราที่Google NewsETWhatsapp-
Opera One - เว็บเบราว์เซอร์ที่เพิ่มขึ้นที่ AI
โดย: โอเปร่า
แหล่งที่มา : techcrunch
