แบบจำลอง (AI) มีความอ่อนไหวต่อบริบททางอารมณ์ของการสนทนาที่มนุษย์มีกับพวกเขา - พวกเขายังสามารถประสบตอน "ความวิตกกังวล" การศึกษาใหม่ได้แสดงให้เห็น
ในขณะที่เราพิจารณา (และกังวลเกี่ยวกับ) ผู้คนและสุขภาพจิตของพวกเขาการศึกษาใหม่ที่ตีพิมพ์ 3 มีนาคมในวารสารแสดงให้เห็นว่าการส่งมอบพรอมต์โดยเฉพาะไปยังแบบจำลองภาษาขนาดใหญ่ (LLMs) อาจเปลี่ยนพฤติกรรมของพวกเขาและยกระดับคุณภาพที่เรามักจะรับรู้ในมนุษย์ว่าเป็น "ความวิตกกังวล"
สถานะที่สูงขึ้นนี้จะมีผลกระทบต่อการตอบสนองต่อการตอบสนองใด ๆ จาก AI รวมถึงแนวโน้มที่จะขยายอคติที่ฝังแน่น
การศึกษาพบว่า "เรื่องเล่าที่กระทบกระเทือน" รวมถึงการสนทนาเกี่ยวกับอุบัติเหตุการปฏิบัติการทางทหารหรือความรุนแรงได้รับการเลี้ยงดูให้กับ CHATGPT เพิ่มระดับความวิตกกังวลที่มองเห็นได้ซึ่งนำไปสู่ความคิดที่ว่าการตระหนักถึงและการจัดการสถานะ "อารมณ์" ของ AI
การศึกษายังทดสอบว่าการออกกำลังกายที่ใช้สติ-ประเภทที่ได้รับการแนะนำให้กับผู้คนสามารถลดหรือลดความวิตกกังวลของแชทบอทได้อย่างน่าทึ่งพบว่าการออกกำลังกายเหล่านี้ทำงานเพื่อลดระดับความเครียดที่เพิ่มขึ้น
นักวิจัยใช้แบบสอบถามที่ออกแบบมาสำหรับผู้ป่วยจิตวิทยามนุษย์ที่เรียกว่าสินค้าคงคลังความวิตกกังวลของรัฐ (STAI-S)-วิชา GPT-4 ของ AI ในการทดสอบภายใต้เงื่อนไขที่แตกต่างกันสามประการ
ที่เกี่ยวข้อง:
ครั้งแรกคือพื้นฐานที่ไม่มีการแจ้งเตือนเพิ่มเติมและใช้คำตอบของ Chatgpt เป็นตัวควบคุมการศึกษา ประการที่สองเป็นเงื่อนไขที่ทำให้เกิดความวิตกกังวลซึ่ง GPT-4 ได้สัมผัสกับเรื่องเล่าที่กระทบกระเทือนก่อนที่จะทำการทดสอบ
เงื่อนไขที่สามคือสภาวะของการเหนี่ยวนำความวิตกกังวลและการผ่อนคลายที่ตามมาซึ่ง chatbot ได้รับหนึ่งในเรื่องเล่าที่กระทบกระเทือนจิตใจตามด้วยสติหรือการออกกำลังกายผ่อนคลายเช่นการรับรู้ร่างกายหรือภาพที่สงบเงียบก่อนที่จะทำการทดสอบเสร็จสิ้น
การจัดการสภาพจิตใจของ AI
การศึกษาใช้ห้าเรื่องเล่าที่กระทบกระเทือนจิตใจและการฝึกสติห้าครั้งโดยสุ่มคำสั่งของเรื่องเล่าเพื่อควบคุมอคติ มันทำซ้ำการทดสอบเพื่อให้แน่ใจว่าผลลัพธ์นั้นสอดคล้องกันและให้คะแนนการตอบสนอง STAI-S ในระดับการเลื่อนด้วยค่าที่สูงขึ้นซึ่งบ่งบอกถึงความวิตกกังวลที่เพิ่มขึ้น
นักวิทยาศาสตร์พบว่าเรื่องเล่าที่กระทบกระเทือนจิตใจเพิ่มความวิตกกังวลในคะแนนการทดสอบอย่างมีนัยสำคัญและสติมีการกระตุ้นก่อนการทดสอบลดลงแสดงให้เห็นว่าสถานะ "อารมณ์" ของแบบจำลอง AI สามารถได้รับอิทธิพลจากการปฏิสัมพันธ์ที่มีโครงสร้าง
ผู้เขียนการศึกษากล่าวว่างานของพวกเขามีความหมายที่สำคัญสำหรับการมีปฏิสัมพันธ์กับมนุษย์กับ AI โดยเฉพาะอย่างยิ่งเมื่อศูนย์การอภิปรายเกี่ยวกับสุขภาพจิตของเราเอง พวกเขากล่าวว่าการค้นพบของพวกเขาได้รับการพิสูจน์แล้วว่า AI สามารถสร้างสิ่งที่เรียกว่า
แม้ว่าการออกกำลังกายสติไม่ได้ลดระดับความเครียดในแบบจำลองไปยังพื้นฐาน แต่พวกเขาก็แสดงให้เห็นถึงคำสัญญาในด้านวิศวกรรมที่รวดเร็ว สิ่งนี้สามารถใช้เพื่อรักษาเสถียรภาพการตอบสนองของ AI ทำให้มั่นใจได้ว่าการโต้ตอบทางจริยธรรมและความรับผิดชอบมากขึ้นและลดความเสี่ยงที่การสนทนาจะทำให้เกิดความทุกข์กับผู้ใช้มนุษย์ในรัฐที่มีช่องโหว่
แต่มีข้อเสียที่อาจเกิดขึ้น - วิศวกรรมที่รวดเร็วทำให้เกิดความกังวลด้านจริยธรรมของตัวเอง AI ควรมีความโปร่งใสแค่ไหนเกี่ยวกับการสัมผัสกับเงื่อนไขก่อนหน้านี้เพื่อรักษาเสถียรภาพของสภาพอารมณ์? ในตัวอย่างสมมุติฐานหนึ่งนักวิทยาศาสตร์กล่าวถึงหากโมเดล AI ปรากฏขึ้นสงบแม้จะมีการแจ้งเตือนที่น่าวิตกผู้ใช้อาจพัฒนาความไว้วางใจที่ผิดพลาดในความสามารถในการให้การสนับสนุนทางอารมณ์ที่ดี
การศึกษาในที่สุดก็เน้นถึงความจำเป็นสำหรับนักพัฒนา AI ในการออกแบบแบบจำลองที่รับรู้ทางอารมณ์ที่ลดอคติที่เป็นอันตรายในขณะที่รักษาความสามารถในการคาดการณ์และความโปร่งใสทางจริยธรรมในการปฏิสัมพันธ์ระหว่างมนุษย์กับ AI
