ChatGPT: OpenAI เปิดตัวเครื่องมือเพื่อค้นหาข้อความที่ AI เขียน

ChatGPT เป็นประโยชน์สำหรับนักเรียนและเป็นฝันร้ายสำหรับครู ด้วยความตระหนักถึงการละเมิดดังกล่าว OpenAI จึงได้ติดตั้งเครื่องมือตรวจจับที่สามารถระบุข้อความที่ AI เขียนขึ้นทางออนไลน์ได้... แต่ผลลัพธ์ยังคงไม่สมบูรณ์

การเพิ่มขึ้นของChatGPTทำให้ครูลำบาก ไม่น่าแปลกใจที่นักเรียนจำนวนมากใช้จริงปัญญาประดิษฐ์กำเนิดเพื่อทำการบ้านให้พวกเขา ศาสตราจารย์ลียงก็ตระหนักเรื่องนั้นด้วยซ้ำนักเรียน 50% ใช้แชทบอทเพื่อเขียนเรียงความ-

จากการทดลองหลายครั้งแสดงให้เห็นว่า ChatGPT สามารถช่วยเหลือนักเรียนในด้านกฎหมายหรือการจัดการได้อย่างสมบูรณ์ทำแบบทดสอบ- ผ่านการทดสอบโดยอาจารย์มหาวิทยาลัยในอเมริกา พบว่าแชทบอทได้รับมาเกรดที่ยุติธรรมไปจนถึงการสอบที่ท้าทาย

AI ที่ตรวจจับการเขียนของ AI

ในบริบทนี้ OpenAI มีเพียงแลนเซอร์เครื่องมือออนไลน์สามารถระบุได้ว่าข้อความถูกสร้างขึ้นโดย ChatGPT: AI Text Classifier หรือไม่ ตามการเริ่มต้นนี้« ลักษณนาม »สามารถคาดเดาความน่าจะเป็นได้ว่าข้อความที่มีอักขระอย่างน้อย 1,000 ตัวจะถูกจินตนาการโดย AI แทนที่จะเป็นมนุษย์

เพื่อฝึกอัลกอริธึม OpenAI ใช้34 generative AI นำเสนอโดยห้าบริษัทที่แตกต่างกันรวมถึง ChatGPT ผลผลิตของ AI เหล่านี้ถูกนำมาเปรียบเทียบ“ตัวอย่างข้อความที่เขียนโดยมนุษย์ที่คล้ายกัน”โดยเฉพาะจากวิกิพีเดีย

เมื่อคุณป้อนข้อความที่น่าสงสัยลงในตัวแยกประเภทของ OpenAI ซอฟต์แวร์จะติดป้ายกำกับเอกสารตามความเป็นไปได้ที่ AI จะเข้ามาแทรกแซง- มีห้าระดับความน่าจะเป็น: ไม่น่าเป็นไปได้มาก (โอกาส 10%) ไม่น่าเป็นไปได้ (ระหว่าง 10 ถึง 45%) ไม่ชัดเจน (ระหว่าง 45 ถึง 90%) อาจจะดี (ระหว่าง 90 ถึง 98%) หรืออาจจะ (มากกว่า 98%) . จากผลลัพธ์ที่ได้ ครูควรสามารถสร้างแนวคิดเกี่ยวกับความถูกต้องของงานเขียนได้ บริษัทระบุว่าอัลกอริทึมได้รับการตั้งโปรแกรมไว้เพื่อหลีกเลี่ยงผลบวกลวงให้มากที่สุดเท่าที่จะเป็นไปได้ ซึ่งจะเพิ่มความเสี่ยงต่อผลลบลวง อย่างไรก็ตาม OpenAI ประมาณการว่า 9% ของข้อความได้รับการพิจารณาอย่างไม่ถูกต้องว่าเขียนโดย AI

อ่านเพิ่มเติม:ChatGPT กังวลกับ Amazon – บริษัทเตือนพนักงาน

เครื่องตรวจจับที่ยังคงไม่สมบูรณ์

บนเว็บไซต์ OpenAI ระบุอย่างชัดเจนว่าเครื่องตรวจจับอยู่ไกลจากความผิดพลาด- ไม่สามารถละเลยความเสี่ยงของผลบวกลวงได้ โดยเฉพาะอย่างยิ่งหากข้อความนั้นเขียนโดยเด็กในภาษาอื่นที่ไม่ใช่ภาษาอังกฤษ นอกจากนี้ยังง่ายต่อการหลบหนีจากตัวตรวจจับโดยแก้ไขประโยคเล็กน้อย สุดท้ายแล้ว การผลิตที่ยาวที่สุดนั้นยากต่อการวิเคราะห์l'AI ตัวแยกประเภทข้อความ- เมื่อคำนึงถึงองค์ประกอบทั้งหมดเหล่านี้ อัตราความสำเร็จของซอฟต์แวร์จะต้องไม่เกิน 26% บริษัทแนะนำให้ใช้เป็นเครื่องมือเพิ่มเติมแทน ควบคู่ไปกับการดูการผลิตจากภายนอก หรือวิธีการตรวจจับอื่นๆ

เรานำตัวตรวจจับไปทดสอบโดยป้อนข้อความภาษาฝรั่งเศสหลายประเภท รวมถึงบทความที่เขียนโดยมนุษย์และผลงานที่สร้างโดย ChatGPT บทความที่เขียนโดยมนุษย์มีป้ายกำกับว่า "ไม่น่าจะเป็นไปได้" อย่างเป็นระบบ หลังจากการทดสอบประมาณสิบครั้ง เราไม่พบผลลัพธ์ที่ผิดพลาดใดๆ ในทำนองเดียวกัน ข้อความที่จัดทำโดย ChatGPT ก็ถูกระบุโดยตรง

ในทางกลับกัน อัตราความแน่นอนของเครื่องตรวจจับจะลดลงทันทีที่เรามีแก้ไขบางประโยคของข้อความที่สร้างโดย ChatGPT ยิ่งคุณปรับเปลี่ยนการผลิตมาก โดยเฉพาะอย่างยิ่งในระดับโครงสร้าง ตัวแยกประเภทที่ไม่แน่ใจมากขึ้นจะปรากฏขึ้น

“เรากำลังทำให้ตัวแยกประเภทเริ่มต้นนี้พร้อมสำหรับข้อเสนอแนะเกี่ยวกับประโยชน์ของเครื่องมือเช่นนี้ และหวังว่าจะแบ่งปันวิธีการที่ได้รับการปรับปรุงในอนาคต”อธิบาย OpenAI ในอีเมลที่ส่งถึงเทคครันช์-

ติดต่อโดยแอ็กซิออสOpenAI ระบุว่ากำลังดำเนินการแก้ไขปัญหาอื่นๆ เพื่อล้างข้อความที่เขียนโดย ChatGPT เช่น แผนการสตาร์ทอัพที่จะรวมลายน้ำ(ลายน้ำเป็นภาษาอังกฤษ) ให้กับผลงานของแชทบอท สำหรับบันทึกนั้น OpenAI ได้ใส่ลายน้ำบนรูปภาพที่สร้างโดยแล้วดัล-อี-

ตัวตรวจจับบุคคลที่สาม

ในขณะเดียวกัน ก็มีตัวตรวจจับบุคคลที่สามเกิดขึ้นมหาวิทยาลัยสแตนฟอร์ดในแคลิฟอร์เนียได้รับการพัฒนาอย่างแท้จริงตรวจจับ GPTซึ่งเป็นโปรแกรมที่สามารถจดจำการเขียนของ ChatGPT โครงการยังอยู่ในช่วงเริ่มต้น แต่ผลลัพธ์แรกมีแนวโน้มดี

ให้เราพูดถึงด้วยGPTZero แอปพลิเคชันแอนะล็อกพัฒนาโดย Edward Tian นักศึกษาวิทยาการคอมพิวเตอร์และวารสารศาสตร์จากมหาวิทยาลัยพรินซ์ตัน เครื่องมือนี้สามารถเข้าถึงได้ทางออนไลน์ฟรี โดยสามารถปรับแต่งผลลัพธ์ของตัวตรวจจับ OpenAI ได้