ChatGPT เพิ่งพบว่าตัวเองเป็นศูนย์กลางของความขัดแย้ง สตาร์ทอัพสัญชาติอเมริกันรายหนึ่งใช้ปัญญาประดิษฐ์ของ OpenAI เพื่อช่วยเหลือผู้ที่เป็นโรคซึมเศร้า...โดยไม่ได้รับความยินยอมจากพวกเขา ผลลัพธ์ของการทดลองผสมกัน
เมื่อไม่กี่วันที่ผ่านมาร็อบ มอร์ริส ผู้ก่อตั้ง Kokoซึ่งเป็นแพลตฟอร์มออนไลน์ที่ออกแบบมาเพื่อช่วยบุคคลที่ประสบปัญหาสุขภาพจิต ได้ทำการเปิดเผยข้อมูลที่น่าประหลาดใจ ผู้จัดการเผยว่าได้ใช้แล้วChatGPTปัญญาประดิษฐ์ของ OpenAI ที่จะนำเสนอ“การสนับสนุนด้านสุขภาพจิตแก่ประชาชนประมาณ 4,000 คน”-
เราให้การสนับสนุนด้านสุขภาพจิตแก่ผู้คนประมาณ 4,000 คน — โดยใช้ GPT-3 นี่คือสิ่งที่เกิดขึ้น👇
– ร็อบ มอร์ริส (@RobertRMorris)6 มกราคม 2023
ออกแบบในปี 2558 Koko อนุญาตให้ผู้ใช้ทั่วไปนำเสนอความช่วยเหลือด้านจิตวิทยาให้กับผู้ที่มีโรคซึมเศร้า อาสาสมัครเหล่านี้เชื่อมต่อกันโดยใช้แชทบอทพื้นฐานผ่านเซิร์ฟเวอร์ Discord, Koko Cares หลังจากตอบคำถามพื้นฐานหลายข้อแล้ว บุคคลที่มีปัญหาสามารถพูดคุยกับอาสาสมัครได้ จากนั้นจะเสนอการสนับสนุนที่ปรับให้เหมาะสมโดยไม่มีค่าใช้จ่าย
อ่านเพิ่มเติม:อย่าติดตั้งแอป ChatGPT ปลอมนี้บน iPhone มันเป็นกลโกง
L'empathy "แปลกประหลาด" deChatGPT
ส่วนหนึ่งของการทดลอง Koko เสนอให้อาสาสมัครใช้การตอบกลับที่สร้างโดย ChatGPTเพื่อสื่อสารกับผู้ใช้ การใช้ปัญญาประดิษฐ์เป็นเพียงทางเลือกเท่านั้น หากการตอบสนองของ ChatGPT ถือว่าไม่เหมาะสม อาสาสมัครจะรับช่วงต่อ สำหรับการทดสอบ แชทบอทถูกรวมเข้ากับเซิร์ฟเวอร์ Discord ของบริษัทสตาร์ทอัพโดยตรง
“เราใช้แนวทาง “นักบินร่วม” โดยมีมนุษย์คอยดูแล AI ตามความจำเป็น เราทำสิ่งนี้กับข้อความประมาณ 30,000 ข้อความ »ระบุร็อบ มอร์ริส
ในตอนแรกการทดลองให้ผลลัพธ์ที่ให้กำลังใจ- ตามที่ Rob Morris กล่าว ข้อความที่เขียนโดย ChatGPT ได้รับการชื่นชมมากกว่าข้อความที่อาสาสมัครเขียนเอง:
“ข้อความที่แต่งโดย AI (และควบคุมโดยมนุษย์) ได้รับการจัดอันดับสูงกว่าข้อความที่เขียนโดยมนุษย์เพียงอย่างเดียวอย่างมีนัยสำคัญ”-
ไอซิ่งบนเค้ก การรวม ChatGPT เข้ากับ Discord ของ Koko ทำให้เป็นไปได้ลดเวลาตอบสนองลงครึ่งหนึ่งซึ่งจำเป็นในกรณีเร่งด่วนที่สุด น่าเสียดายที่ผลลัพธ์เปลี่ยนไปอย่างสิ้นเชิงในทันที“ผู้คนเรียนรู้ว่าข้อความถูกสร้างขึ้นร่วมกันโดยเครื่อง”- เมื่อมีการใช้ปัญญาประดิษฐ์ถูกเปิดเผยแล้ว“ความเห็นอกเห็นใจจำลองนั้นดูแปลกและว่างเปล่า”- นี่คือเหตุผลที่ Koko ต้องการปิดการใช้งาน ChatGPT
“เครื่องจักรไม่มีประสบการณ์แบบมนุษย์ ดังนั้นเมื่อพวกเขาพูดว่า 'มันดูยาก' หรือ 'ฉันเข้าใจ' ก็ดูเหมือนไม่จริง […] พวกเขาไม่ใช้เวลาในแต่ละวันเพื่อคิดถึงคุณ การตอบสนองของแชทบอทเกิดขึ้นภายใน 3 วินาที ไม่ว่าจะดูหรูหราแค่ไหน แต่ก็ดูถูก”อธิบายผู้ก่อตั้ง Koko ผู้สำเร็จการศึกษาด้านจิตวิทยาจากมหาวิทยาลัยพรินซ์ตันและอดีตนักวิจัยที่ MIT Media Lab
ChatGPT พบว่าตัวเองเป็นหัวใจสำคัญของความขัดแย้ง
การประกาศของมอร์ริสกระตุ้นอย่างรวดเร็วความขัดแย้ง- บน Twitter ผู้ใช้อินเทอร์เน็ตเชื่อว่า Koko ควรแจ้งให้ผู้ใช้ทราบเกี่ยวกับโปรแกรมทดลองนี้ นี่เป็นความคิดเห็นของนักกฎหมายและผู้เชี่ยวชาญด้านจริยธรรมหลายคนโดยเฉพาะ ซึ่งชี้ให้เห็นว่าสหรัฐอเมริกาติดตามแนวทางปฏิบัติเหล่านี้อย่างใกล้ชิด ในความเป็นจริงแล้ว ห้ามมิให้ทำการวิจัยในมนุษย์โดยไม่ได้รับความยินยอมอย่างชัดแจ้งในดินแดนของอเมริกา กฎหมายกำหนดให้ผู้เข้าร่วมทุกคนในโครงการวิจัยต้องลงนามในเอกสารทางกฎหมาย
ในการตอบสนองต่อกระทู้บน Twitter Daniel Shoskes อดีตประธานคณะกรรมการพิจารณาสถาบันแห่งสหรัฐอเมริกา (IRB) ยังแนะนำให้มอร์ริสติดต่อทนายความด้วย:
“คุณดำเนินการวิจัยในอาสาสมัครในมนุษย์กับประชากรกลุ่มเปราะบางโดยไม่ได้รับการอนุมัติหรือยกเว้นจาก IRB (คุณไม่สามารถตัดสินใจได้เพียงลำพัง)”
นอกจากประเด็นทางกฎหมายแล้ว ผู้เชี่ยวชาญบางคนชี้นิ้วด้วยความอันตรายของการทดลอง- สัมภาษณ์โดย Vice, Emily M. Bender ศาสตราจารย์ด้านภาษาศาสตร์จาก University of Washington เชื่อว่าความเสี่ยงของ“ข้อเสนอแนะที่เป็นอันตราย”ในบริบทของสถานการณ์ที่ระเบิดแรงที่สุดนั้นเป็นจริงมาก:
“แบบจำลองทางภาษาไม่มีความเห็นอกเห็นใจ ไม่เข้าใจภาษาที่พวกเขาสร้างขึ้น ไม่เข้าใจสถานการณ์ที่พวกเขาเผชิญ แต่ข้อความที่พวกเขาจัดทำนั้นดูเป็นไปได้ และผู้คนจึงมีแนวโน้มที่จะให้ความหมายกับข้อความนั้น”
นอกจากนี้ การใช้ ChatGPT อาจฝ่าฝืนคำสัญญาที่ชัดเจนของ Kokoในสภาพการใช้งาน ใน Discord องค์กรจะตรวจสอบให้แน่ใจว่าผู้ใช้อินเทอร์เน็ตได้รับการติดต่อด้วย-คนจริงที่เข้าใจคุณจริงๆ”ซึ่งไม่ใช่-นักบำบัด ไม่ใช่ที่ปรึกษา แค่คนเช่นคุณ”-
เพื่อปกป้องตัวเอง Rob Morris ระบุว่าผู้ใช้ Koko Cares ไม่ใช่ไม่เคยเชื่อมต่อกับ ChatGPT- ตามที่สัญญาไว้ ผู้ใช้อินเทอร์เน็ตที่กำลังมองหาความช่วยเหลือสามารถสื่อสารกับมนุษย์ได้ ในทางกลับกัน การตอบสนองของเขาอาจเกิดจากปัญญาประดิษฐ์ ในบริบทนี้ ChatGPT ทำหน้าที่เป็นผู้ช่วยอาสาสมัครมากขึ้นเพื่อปรับปรุงประสิทธิภาพของพวกเขา ผู้ก่อตั้ง Koko เสริมว่าสตาร์ทอัพไม่จำเป็นต้องปฏิบัติตามกฎเกณฑ์ที่บังคับใช้เกี่ยวกับการวิจัย โดยอ้างว่าไม่มีการใช้ข้อมูลส่วนบุคคลและไม่มีการวางแผนเผยแพร่ผลการวิจัย
โปรดทราบว่า Koko ไม่ใช่มือใหม่ในเรื่องปัญญาประดิษฐ์ นับตั้งแต่ก่อตั้ง แพลตฟอร์มดังกล่าวได้ใช้ AI เพื่อจัดระเบียบและจัดหมวดหมู่ผู้ใช้ประเภทต่างๆ ที่ต้องการการสนับสนุน Koko อาศัยการเรียนรู้ของเครื่องเป็นพิเศษระบุบุคคลที่มีความเสี่ยง- จากนั้น Koko ก็จัดเตรียมทรัพยากรที่ปรับเปลี่ยนตามความทุกข์ที่ AI รับรู้
ต้องขอบคุณปัญญาประดิษฐ์เท่านั้นที่ทำให้สตาร์ทอัพประสบความสำเร็จและได้รับเงินทุน ในปี 2559 Fraser Kelton ผู้ร่วมก่อตั้ง Koko อธิบายว่า Koko Cares ได้รับการออกแบบมาเพื่อผสมผสาน-ปัญญาประดิษฐ์รวมสู่ปัญญาประดิษฐ์เพื่อปรับปรุงความเป็นอยู่ทางอารมณ์ของผู้คน »- เมื่อพิจารณาถึงวัตถุประสงค์เบื้องต้นแล้ว จึงไม่น่าแปลกใจที่ Koko พิจารณาอย่างรวดเร็วในการผสานรวม ChatGPT เข้ากับแพลตฟอร์มของตน
ในช่วงไม่กี่เดือนที่ผ่านมา ปัญญาประดิษฐ์เชิงกำเนิดได้สร้างความกระตือรือร้นอย่างมากทั้งคู่ข้างบริษัทยักษ์ใหญ่ด้านเทคโนโลยีผู้ใช้ทั่วไปและอาชญากรไซเบอร์- การปฏิวัติที่นำโดย ChatGPT ยังทำให้ชีวิตของครูและอาจารย์ต้องเผชิญความยากลำบากการระเบิดของการบ้านที่เขียนโดย AI-
🔴 เพื่อไม่พลาดข่าวสาร 01net ติดตามเราได้ที่Google ข่าวสารetวอทส์แอพพ์-
แหล่งที่มา : รอง
