เสียง AI หันเหไปเพื่อจุดประสงค์ในการเหยียดเชื้อชาติ เกลียดชังคนรักร่วมเพศ และเกลียดชังข้ามเพศ

ลมแห่งความตื่นตระหนกที่ElevenLabsในขณะที่ห้องปฏิบัติการสังเคราะห์เสียง VoiceLab จ่ายเงินให้กับผู้ใช้ฟอรัม 4chan ด้วยปัญญาประดิษฐ์คุณภาพสูง บริษัทไม่สามารถป้องกันการใช้เครื่องมือในทางที่ผิดโดยมีเป้าหมายเพื่อสร้างเนื้อหาที่แสดงความเกลียดชัง

สตาร์ทอัพที่ก่อตั้งโดยอดีตพนักงาน Google และ Palantir สองคน บริษัทในลอนดอนแห่งนี้เป็นต้นกำเนิดของ AI เสียงใหม่ที่ช่วยให้สามารถสร้างเสียงสังเคราะห์ที่สมจริงเป็นพิเศษจากข้อความ หรือการโคลนเสียงที่มีอยู่จากการแยกเสียง

https://www.youtube.com/watch?v=17_xLsqny9E

เมื่อสัปดาห์ที่แล้ว เทคโนโลยีที่มีแนวโน้มเหล่านี้ถูกปรับใช้ในรุ่นเบต้าสาธารณะฟรี เพื่อให้ผู้ใช้อินเทอร์เน็ตเห็นภาพรวมของประสิทธิภาพของ AI นี้ ผู้ใช้อินเทอร์เน็ตที่เป็นอันตรายใช้เวลาไม่เกินหนึ่งสัปดาห์ในการยึดและจี้มัน เมื่อวันจันทร์ ElevenLabs ยืนยันในบัญชี Twitter ของตนว่าตรวจพบการใช้เทคโนโลยีในทางที่ผิดเพิ่มมากขึ้น โดยไม่มีรายละเอียดเพิ่มเติม

สุดสัปดาห์สุดมันส์ – ขอบคุณทุกคนที่ลองใช้แพลตฟอร์มเบต้าของเรา แม้ว่าเราจะเห็นว่าเทคโนโลยีของเราถูกนำไปใช้อย่างล้นหลามเพื่อการใช้งานเชิงบวก แต่เรายังเห็นกรณีการใช้งานการโคลนเสียงในทางที่ผิดเพิ่มมากขึ้นอีกด้วย เราต้องการเข้าถึงชุมชน Twitter เพื่อขอความคิดเห็นและข้อเสนอแนะ!

— ElevenLabs (@elevenlabsio)30 มกราคม 2023

ในที่สุดเมนบอร์ดก็เปิดเผยว่าพบ Deepfakes หลายตัว ซึ่งสร้างขึ้นโดยใช้โมดูลโคลนเสียงจาก ElevenLabs ตัวอย่างเสียงที่ออกอากาศทาง 4chan รวมถึงเสียงของคนดังที่พูดภาษาอังกฤษจำนวนมากเพื่อทำให้พวกเขาพูดจาที่รุนแรง เหยียดเชื้อชาติ รักร่วมเพศ และเกลียดข้ามเพศ ตามเมนบอร์ด เราอาจได้ยินนักแสดงหญิง Emma Watson อ่านสารสกัดจาก Mein Kampf หรือแม้แต่ Ben Shapiro พิธีกรหัวอนุรักษ์นิยมที่พูดจาเหยียดเชื้อชาติเกี่ยวกับ Alexandria Ocasio-Cortez

จำเป็นต้องมีการทำเครื่องหมายเนื้อหาและการระบุตัวตน

หลังจากเหตุการณ์นี้ ElevenLabs ประกาศว่ากำลังระงับการเข้าถึงแพลตฟอร์มของตนฟรี ในขณะที่มีมาตรการป้องกันเพื่อป้องกันไม่ให้การยักยอกดังกล่าวเกิดขึ้นอีกครั้งโดยไม่ต้องรับโทษโดยสมบูรณ์

ตั้งแต่วันอังคาร ทุกคนสามารถเข้าถึงแพลตฟอร์มนี้ได้อีกครั้งภายใต้เงื่อนไขบางประการ ElevenLabs ยืนยันในบัญชี Twitter ว่าคลิปเสียงที่สร้างโดยการสังเคราะห์เสียงพูดและเครื่องมือโคลนจะถูกทำเครื่องหมายแล้ว นอกจากนี้ บริษัทวางแผนที่จะปรับใช้เครื่องมือสำหรับระบุเนื้อหาที่สร้างด้วย AI ในอีกไม่กี่วันข้างหน้า

ขอบคุณทุกคนสำหรับคำแนะนำของคุณ เราชอบสิ่งที่คุณกำลังสร้าง แต่นักแสดงกลุ่มหนึ่งใช้เทคโนโลยีของเราเพื่อจุดประสงค์ที่เป็นอันตราย เราตัดสินใจที่จะทำตามขั้นตอนต่อไปนี้เพื่อแก้ไขปัญหา:

— ElevenLabs (@elevenlabsio)31 มกราคม 2023

เนื้อหาที่เป็นอันตรายส่วนใหญ่ที่พบใน 4chan นั้นถูกสร้างขึ้นโดยบัญชีฟรีและไม่เปิดเผยตัวตน ElevenLabs ได้ตัดสินใจจำกัดผู้ใช้ VoiceLab ไว้เฉพาะผู้ใช้ระดับพรีเมียมเท่านั้น ผู้ใช้อินเทอร์เน็ตที่ต้องการทดสอบเสียง AI ของบริษัทฟรีจะยังคงสามารถทำได้ เนื่องจากมีการใช้เวอร์ชันสาธิตที่ต้องใช้ข้อมูลการชำระเงิน ข้อมูลนี้จะทำให้ ElevenLab สามารถระบุผู้เขียนเนื้อหาที่ละเมิดและผิดกฎหมายที่สร้างจาก AI ของตนได้

🔴 เพื่อไม่ให้พลาดข่าวสารจาก 01net ติดตามเราได้ที่Google ข่าวสารetวอทส์แอพพ์-

แหล่งที่มา : เมนบอร์ด