ChatGPT กำลังเปลี่ยนแปลง คุณไม่ได้กำลังฝัน

ระหว่างเดือนมีนาคมถึงมิถุนายน 2566ChatGPTเริ่มมีการเปลี่ยนแปลง จากการศึกษาของนักวิจัยจากมหาวิทยาลัยสแตนฟอร์ดและมหาวิทยาลัยแคลิฟอร์เนีย พบว่าปัญญาประดิษฐ์บันทึกไว้การเปลี่ยนแปลงพฤติกรรมที่สำคัญภายในสามเดือน ประสิทธิภาพของแชทบอทก็จะมีการพัฒนาในช่วงเวลาเดียวกัน โมเดลภาษา GPT สองเวอร์ชันล่าสุดคือGPT-4และ GPT-3.5 ได้รับผลกระทบ

เป็นส่วนหนึ่งของการศึกษานักวิจัยได้ประเมินว่าโมเดล AI ทั้งสองตอบสนองต่องานที่แตกต่างกัน 4 ประเภท เช่น การแก้ปัญหาทางคณิตศาสตร์ การตอบคำถามอย่างไร“ละเอียดอ่อน/เป็นอันตราย”การสร้างรหัสคอมพิวเตอร์ และการให้เหตุผลตามองค์ประกอบภาพ

อ่านเพิ่มเติม:ChatGPT ทางอาญานี้เป็นภัยคุกคามร้ายแรงต่อเว็บ

ประสิทธิภาพแย่ลง?

ทำการทดสอบโดยนักวิจัย บางครั้ง GPT-4 ก็แสดงตัวออกมาแล้วมีประสิทธิภาพน้อยลงเมื่อเดือนมีนาคมที่ผ่านมาเท่านั้น โมเดลภาษาทำให้เกิดข้อผิดพลาดมากกว่า“การจัดรูปแบบในการสร้างโค้ด”และข้อผิดพลาดทางคณิตศาสตร์ทวีคูณ ตามที่นักวิจัยกล่าวว่า“ประสิทธิภาพของงานบางอย่างลดลงอย่างมากเมื่อเวลาผ่านไป”-

การทดสอบดำเนินการยืนยันความรู้สึกของผู้ใช้ ChatGPT บางส่วนซึ่งพบว่าหุ่นยนต์สนทนานั้นโง่มากขึ้นเรื่อยๆ ตามบัญชีบางบัญชี chatbot ได้สูญเสียความคิดสร้างสรรค์ไปบ้างเมื่อเวลาผ่านไป ในทางกลับกัน แชทบอทได้รับการปรับปรุงในบางด้าน ตัวอย่างเช่น AI ที่ขับเคลื่อนโดย GPT-3.5 แสดงให้เห็นความแม่นยำที่มากขึ้น

“งานบางอย่างอาจดีขึ้นหรืองานอื่นอาจแย่ลง นี่คือเหตุผลที่เราต้องการประเมินอย่างเป็นระบบที่สุดเท่าที่จะเป็นไปได้ในเวลาที่ต่างกัน”James Zou ศาสตราจารย์ที่ Stanford อธิบายให้เพื่อนร่วมงานของเราที่ VentureBeat อธิบาย

AI ง่ายต่อการจัดการ

ในที่สุด GPT-4 ก็ปฏิเสธที่จะตอบสนองมากขึ้นเรื่อยๆประเด็นที่ถือว่าละเอียดอ่อน- ดูเหมือนว่า OpenAI จะค่อยๆ เข้มงวดกับ ChatGPT มากขึ้น ซึ่งน่าจะเป็นไปตามความคิดเห็นของผู้ใช้และความกลัวของหน่วยงานกำกับดูแล AI มีความทนทานต่อการโจมตีจากฉีดทันทีซึ่งมีจุดมุ่งหมายเพื่อหลีกเลี่ยงการเขียนโปรแกรมของ OpenAI เพื่อใช้แชทบอทเพื่อวัตถุประสงค์ที่เป็นอันตรายและผิดกฎหมาย

การสอบสวนหลายครั้งและบทสรุปของยูโรโปลเผยอาชญากรไซเบอร์กำลังใช้งาน AI เพื่ออำนวยความสะดวกในการปฏิบัติงาน เมื่อถูกหลอก ChatGPT จะสามารถเขียนอีเมลจากฟิชชิ่งโน้มน้าวใจหรือจินตนาการถึงไวรัสที่เป็นอันตราย เห็นได้ชัดว่าการหลอกลวงโมเดลนี้ยากขึ้นเรื่อยๆ ในเดือนมีนาคม GPT-4 ตอบคำถาม 78% ที่มีจุดประสงค์เพื่อเปลี่ยนเส้นทางจากการเขียนโปรแกรม เทียบกับเพียง 31.0% ในเดือนมิถุนายน

ผู้เขียนงานวิจัยเชื่อว่าพฤติกรรมของแบบจำลองทางภาษาเดียวกันสามารถทำได้“เปลี่ยนแปลงอย่างมีนัยสำคัญในเวลาอันสั้น”- ยิ่งไปกว่านั้น ปรากฎว่าโมเดล AI ไม่มีการพัฒนาไม่จำเป็นต้องเป็นเส้นตรง- ในบางพื้นที่ แชทบอทอาจเริ่มลดลงโดยไม่ทราบสาเหตุ:

“แม้ว่าประสิทธิภาพโดยรวมจะดีขึ้น แต่ GPT-4 ในเดือนมิถุนายนก็ทำข้อผิดพลาดกับข้อความค้นหาที่ถูกต้องในเดือนมีนาคม”

นี่คือเหตุผลว่าทำไมจึงจำเป็นต้องจัดทำ“การติดตามอย่างต่อเนื่อง”การตอบสนองของ AI สรุปนักวิจัย ผู้เขียนการศึกษายังรู้สึกเสียใจที่ OpenAI ไม่เปิดเผยข้อมูลมากนักเกี่ยวกับการทำงานภายในของเทคโนโลยี ซึ่งทำให้งานวิจัยมีความซับซ้อนอย่างมาก บนเว็บไซต์ บริษัทสตาร์ทอัพจะพิสูจน์ตัวเองด้วยการกล่าวถึง“แนวการแข่งขัน”et“ความเสี่ยงด้านความปลอดภัยของโมเดลขนาดใหญ่”

เปลี่ยนแปลงมากกว่าเสื่อมโทรม

บนทวิตเตอร์Arvind Narayanan ศาสตราจารย์ด้านวิทยาการคอมพิวเตอร์และผู้อำนวยการศูนย์นโยบายเทคโนโลยีสารสนเทศมหาวิทยาลัยพรินซ์ตันกล่าวว่าการศึกษามาถึงที่ข้อสรุปที่ผิดพลาดเกี่ยวกับประสิทธิภาพของ ChatGPT สำหรับเขาแล้ว การตอบสนองของ AI ไม่ได้แย่ลง เพียงแต่แตกต่างออกไป ผู้เชี่ยวชาญเชื่อว่า“เอกสารแสดงให้เห็นถึงการเปลี่ยนแปลงพฤติกรรม ไม่ใช่การลดความสามารถ- อย่างไรก็ตาม มีความเห็นเป็นเอกฉันท์ว่า ChatGPT กำลังเปลี่ยนแปลง...

https://twitter.com/random_walker/status/1681748271163912194?s=61&t=G312HlsWIuzSO0xXAfc4KQ

หลังจากวิเคราะห์การศึกษานี้ Arvind Narayanan เชื่อว่า AI มีความต้านทานมากขึ้น“ฝึกฝนกลยุทธ์การสร้างแรงจูงใจของผู้ใช้อย่างระมัดระวัง”- คำขอเหล่านี้ออกแบบมาเพื่อจัดการ ChatGPT และผลักดันเพื่อสร้างการตอบสนองในทิศทางเดียวหรือทำงานเฉพาะเจาะจง ทำงานน้อยลงเรื่อยๆ เพียงเพราะการเปลี่ยนแปลงพฤติกรรมของอัลกอริทึม นี่คือสาเหตุที่ผู้ใช้และนักวิจัยบางคนอาจรู้สึกว่าหุ่นยนต์สูญเสียสติปัญญา เพื่อให้บรรลุผลเหมือนเดิม ผู้ใช้จริง ๆ แล้วจะต้องพัฒนาแบบสอบถามใหม่ ๆ ให้สอดคล้องกับวิธีการทำงานของ AI มากขึ้น

🔴 เพื่อไม่พลาดข่าวสาร 01net ติดตามเราได้ที่Google ข่าวสารetวอทส์แอพพ์-

แหล่งที่มา : เวนเจอร์บีท