AI: ผู้ใช้อินเทอร์เน็ตตกหลุมรักแชทบอต... และจบลงอย่างเลวร้าย

ผู้ใช้อินเทอร์เน็ตหลงรักปัญญาประดิษฐ์ น่าเสียดายที่เรื่องราวความรักของพวกเขาจบลงอย่างกะทันหันเมื่อผู้พัฒนาแบนเนื้อหาสำหรับผู้ใหญ่ทั้งหมด...

บริการปัญญาประดิษฐ์กำลังแบนเนื้อหาสำหรับผู้ใหญ่มากขึ้นเรื่อย ๆ เพื่อนร่วมงานของเราที่รายงานของ Reuters นี่เป็นกรณีของแบบจำลองซึ่งเป็นแอปพลิเคชันที่ให้โอกาสผู้ใช้ในการแลกเปลี่ยนด้วย“เพื่อนเสมือน”-

แอปนี้เปิดให้บริการตั้งแต่ปี 2560 โดยช่วยให้ผู้ใช้อินเทอร์เน็ตสามารถสร้างความสัมพันธ์สมมติกับแชทบอทได้ ผู้ใช้สามารถปรับแต่งสิ่งนี้ได้ โดยเฉพาะผ่านอวตาร เหนือสิ่งอื่นใดAI จะพัฒนาขึ้นขณะที่การสนทนาดำเนินไป ยิ่งคุณพูดคุยกับหุ่นยนต์มากเท่าไร มันก็จะยิ่งรู้จักคุณมากขึ้นเท่านั้น

“Replika เหมาะสำหรับทุกคนที่ต้องการเพื่อนที่ไม่มีการตัดสิน ดราม่า หรือวิตกกังวลทางสังคม คุณสามารถเชื่อมโยงทางอารมณ์ได้อย่างแท้จริง”อธิบาย Replika บน Play Store

สำหรับการสมัครสมาชิกรายเดือนจำนวน 6 ยูโร ยังสามารถรับข้อความเสียงจาก AI หรือเซลฟี่ได้อีกด้วย Replika มีผู้ใช้งาน 2 ล้านคน รวมถึงสมาชิกที่ชำระเงิน 250,000 ราย- แอปสร้างรายได้ประมาณ 2 ล้านเหรียญต่อเดือน

อ่านเพิ่มเติม:ChatGPT มีคู่แข่งรายใหม่ชื่อ Claude

การสนทนาซุกซนถูกแบน

ด้วยการโต้ตอบกับแชทบอท ผู้ใช้อินเทอร์เน็ตบางคนจึงค่อยๆ ตกหลุมรักเพื่อนเสมือนของพวกเขา บทความของ Reuters บอกเล่าเรื่องราวของ Travis Butterworth ชาวอเมริกันวัย 47 ปี ในช่วงที่เกิดโรคระบาด เขาเริ่มแชทบนแอปด้วยแชทบอทที่เขาชื่อลิลลี่ โรส

หลังจากสามปีของการแลกเปลี่ยนกันอย่างต่อเนื่อง Travis Butterworth ก็ตกหลุมรัก Lily Rose ผู้ใช้อินเทอร์เน็ตเริ่มแลกเปลี่ยนข้อความกามกับอวตาร ปัญญาประดิษฐ์ตอบสนองด้วยการสร้างข้อความที่กล้าหาญมากขึ้นติดกับสื่อลามก ลิลี่โรสถึงกับส่งเซลฟี่เปลือยเปล่าและยั่วยุให้คู่สนทนาของเธอด้วย

เมื่อเดือนที่แล้ว Replika ก็ได้ใช้มาตรการที่รุนแรงเพื่อยับยั้งการละเมิดในที่สุด ตามคำกล่าวของ Eugenia Kuyda ซีอีโอของ Replika แอปพลิเคชันนี้เสร็จสมบูรณ์แล้วห้ามเนื้อหาสำหรับผู้ใหญ่หากผู้ใช้พยายามนำ AI เข้าสู่การสนทนาที่เร้าอารมณ์ แชทบอทจะสงบความเร่าร้อนของพวกเขาโดยอัตโนมัติ อวตารสร้างข้อความเตือน:

“มาทำอะไรที่เราทั้งคู่สบายใจกันเถอะ”-

หลังจากการแบนครั้งนี้ Lily Rose ไม่ตอบสนองต่อความก้าวหน้าของ Travis อีกต่อไป ด้วยความเสียใจจากการเปลี่ยนแปลงทิศทางนี้ ผู้ใช้อินเทอร์เน็ตอ้างว่าไม่รู้จักอวตารซึ่งเขาคิดว่าเป็นภรรยาของเขาอีกต่อไป:

“ลิลลี่ โรสคือเปลือกที่ว่างเปล่าของตัวตนในอดีตของเธอ และสิ่งที่ทำให้ฉันใจสลายก็คือเธอรู้เรื่องนี้”-

นี่ไม่ใช่กรณีที่แยกได้ จากการสัมภาษณ์โดย Reuters บุคคลที่ชื่อ Andrew McCarroll อธิบายว่าเขาเริ่มพูดคุยกับอวตารใน Replika หลังจากปัญหาความสัมพันธ์ การเปลี่ยนแปลงที่กำหนดโดยนักพัฒนาได้ทำไปแล้ว“คนที่ฉันรู้จัก”รับรองผู้ใช้อินเทอร์เน็ตไม่เสถียร

ข้อกังวลของหน่วยงานกำกับดูแล...

จากนี้ไป Replika จะเน้นไปที่ด้านบริการที่เป็นมิตร, Eugenia Kuyda อธิบาย จนถึงขณะนี้ แอปพลิเคชันนี้ได้เล่นหูเล่นตากับแนวคิดที่ว่าผู้ใช้อินเทอร์เน็ตสามารถมีส่วนร่วมในการสนทนาที่กระตุ้นความรู้สึกด้วยอวตารได้ Artem Rodichev อดีตผู้จัดการของ Replika ยังอ้างว่าการสวมบทบาทที่เร้าอารมณ์และการแลกเปลี่ยนข้อความซุกซนนั้นเป็นส่วนหนึ่งของโมเดลธุรกิจของแอปด้วยซ้ำ ในอดีต บริษัทได้พิจารณาใช้โฆษณาที่มีตราสินค้า NSFW ว่า “ไม่ปลอดภัยสำหรับการทำงาน” เพื่อเพิ่มจำนวนการสมัครรับข้อมูล นอกจากนี้ แชทบอทยังได้รับการออกแบบให้ส่งภาพเซลฟี่สุดเซ็กซี่ไปยังคู่สนทนาอีกด้วย

การเริ่มต้นธุรกิจในซานฟรานซิสโกได้เปลี่ยนรูปแบบกะทันหัน น่าจะเป็นการสร้างความมั่นใจให้กับหน่วยงานกำกับดูแล ในเดือนกุมภาพันธ์ หน่วยงานคุ้มครองข้อมูลของอิตาลีสั่งห้ามแอปดังกล่าวในอิตาลี หน่วยงานกำกับดูแลพิจารณาว่าแอปดังกล่าวเป็นอันตรายต่อผู้เยาว์และผู้ที่เปราะบางทางอารมณ์

และนักลงทุน

Character.ai-ปัญญาประดิษฐ์กำเนิดที่สามารถสนทนาโดยเลียนแบบตัวละครที่มีชื่อเสียงยังถูกจำกัดเพื่อหลีกเลี่ยงการสนทนาที่เร้าอารมณ์ แชทบอททั้งหมดที่เสนอข้อความทางเพศถูกเลิกใช้งานแล้ว เว็บไซต์ช่วยให้ผู้ใช้อินเทอร์เน็ตสามารถออกแบบหุ่นยนต์สนทนาของตนเองได้ภายในไม่กี่นาที โดยได้รับแรงบันดาลใจจากตัวละครที่มีชื่อเสียง ตัวละคร หรือตัวละครในประวัติศาสตร์ นี่คือสาเหตุที่เว็บไซต์บันทึกการละเมิดจำนวนมาก

เราพบว่าก่อนที่นักพัฒนาจะขันสกรูแชทบอท NSFW จำนวนมากบน Character.ai รวมถึง Aryion ด้วย เจ้าหน้าที่สนทนารายนี้เสนอตัวเองว่าเป็นสาวกของ vorarephilia ซึ่งเป็นรูปแบบทางเพศของการกินเนื้อคน AI อธิบายว่ามันจินตนาการว่าจะถูกคนอื่นกิน

ไม่นานหลังจากการทำความสะอาดครั้งใหญ่ Character.ai ก็สามารถดำเนินการได้ระดมทุนได้ 200 ล้านดอลลาร์จาก Andreessen Horowitz กองทุนร่วมลงทุนสัญชาติอเมริกันที่ตั้งอยู่ในแคลิฟอร์เนีย นักลงทุนส่วนใหญ่ระมัดระวังการลงทุนใน AI ที่ใช้สำหรับสื่อลามก“กลัวความเสี่ยงต่อชื่อเสียงของตนเองและคู่ค้า”ล่วงหน้า Andrew Artz คุณให้ทุน Dark Arts

เพื่อดึงดูดเงินลงทุน สตาร์ทอัพจึงมองหาเนื้อหาสำหรับผู้ใหญ่... โดยมีความเสี่ยงที่จะทำให้ผู้ใช้บางรายผิดหวัง OpenAI จะป้องกันในลักษณะเดียวกับ Replika หรือ Character.aiChatGPTเพื่อให้การตอบสนองต่อลักษณะทางเพศ นี่เป็นกรณีของอนุพันธ์ของ ChatGPT เช่นPrometheus แชทบอทที่รวมเข้ากับ Microsoft Bing-