Openai กล่าวว่าเครื่องมือการโคลนเสียงนั้นมีประสิทธิภาพเกินไปสำหรับการเปิดตัวสาธารณะ

ในเรื่องราวดั้งเดิมของ Genie ในขวดจากหนึ่งพันหนึ่งคืน Genie ขู่ว่าจะฆ่าชาวประมงที่ปลดปล่อยเขา - เรื่องราวที่ดูเหมือนจะดังก้องด้วยOpenaiในขณะที่มันยังคงติดตามการโคลนเสียงขั้นสูงและเครื่องมือเสียงและวิดีโอสังเคราะห์ที่กล่าวมาพร้อมกับความเสี่ยงที่สำคัญ

ในโพสต์บล็อกบริษัท กล่าวว่าผลการทดสอบแสดงให้เห็นว่าเอ็นจิ้นเสียงของมันนั้นดีมากในการโคลนเสียงลึกและเสียงสังเคราะห์ที่เกือบจะถูกนำไปใช้ในทางที่ผิดในการเปิดตัวอย่างกว้างขวางกระตุ้นให้ผู้สร้าง Chatgpt ระงับการตั้งค่าผลิตภัณฑ์ที่หลวมจนกว่าจะสร้างกฎและแนวทางที่แข็งแกร่งขึ้นสำหรับการปรับใช้

พัฒนาขึ้นในปี 2565 Voice Engine เป็นการอัปเดตเกี่ยวกับเทคโนโลยีที่ใช้แล้วใน API Text-to-Speech ของ Open AI และโหมดการสนทนาของCHATGPT- บล็อกบอกว่าเอ็นจิ้นเสียง“ ใช้อินพุตข้อความและตัวอย่างเสียง 15 วินาทีเดียวเพื่อสร้างคำพูดที่ทำให้เกิดเสียงธรรมชาติซึ่งคล้ายกับลำโพงดั้งเดิมอย่างใกล้ชิดเป็นที่น่าสังเกตว่ารุ่นเล็ก ๆ ที่มีตัวอย่าง 15 วินาทีเดียวสามารถสร้างเสียงที่มีอารมณ์และสมจริง” บริษัท ไม่ได้เปิดเผยแหล่งที่มาของข้อมูลที่หลากหลายทางอารมณ์ที่ใช้ในการฝึกอบรมกลไกเสียง แต่บอกtechcrunchว่าโมเดล“ ได้รับการฝึกฝนเกี่ยวกับการผสมผสานของข้อมูลที่ได้รับใบอนุญาตและเปิดเผยต่อสาธารณะ”

จุดเริ่มต้นบางทีเพื่อให้เข้าใจถึงผลกระทบอย่างเต็มรูปแบบของเครื่องมือฟรีและเข้าถึงได้ง่ายซึ่งสามารถสร้างเสียงที่เหมือนจริงของทุกคนที่มีตัวอย่าง 15 วินาที บริษัท บอกว่าตอนนี้“ ใช้วิธีการที่ระมัดระวังและได้รับการแจ้งการใช้เสียงสังเคราะห์ในทางที่ผิด-

“ เราหวังว่าจะเริ่มการสนทนาเกี่ยวกับการปรับใช้เสียงสังเคราะห์อย่างรับผิดชอบและวิธีที่สังคมสามารถปรับให้เข้ากับความสามารถใหม่เหล่านี้ได้” บล็อกโพสต์กล่าว “ จากการสนทนาเหล่านี้และผลลัพธ์ของการทดสอบขนาดเล็กเหล่านี้เราจะทำการตัดสินใจอย่างชาญฉลาดมากขึ้นเกี่ยวกับการปรับใช้เทคโนโลยีนี้ในระดับหรือไม่”

ตามรายงานจาก Arstechnica ปัจจุบันข้อกำหนดและเงื่อนไขสำหรับ บริษัท ที่ทดสอบเครื่องยนต์เสียงห้ามการเลียนแบบบุคคลหรือองค์กร“ โดยไม่ได้รับความยินยอมหรือถูกต้องตามกฎหมาย” พวกเขาได้รับคำสั่งให้เปิดเผยการใช้ AI เพื่อโคลนเสียงและได้รับความยินยอมจากใครก็ตามที่มีเสียงถูกโคลน นอกจากนี้ Open AI ใช้ลายน้ำเพื่อให้ง่ายต่อการระบุเสียงที่ผลิตโดยใช้เครื่องยนต์เสียง

อย่างไรก็ตาม บริษัท ทำให้ชัดเจนว่าการหยุดรถไฟความเร็ว AI แบบกำเนิดไม่ใช่ตัวเลือกและขึ้นอยู่กับสังคมที่จะเปลี่ยนแปลงตามเวลา “ เราหวังว่าตัวอย่างของเอ็นจิ้นเสียงนี้จะเน้นย้ำถึงศักยภาพของมันแบบจำลองการกำเนิด” โพสต์ของมันกล่าวว่าการเริ่มต้นมันแสดงให้เห็นถึงการยกเลิกการรับรองความถูกต้องด้วยเสียงเป็นวิธีการตรวจสอบ ID สำหรับการธนาคารและกรณีการใช้งานที่ละเอียดอ่อนอื่น ๆ เพิ่มการศึกษาของรัฐใน AI“ การสำรวจนโยบายเพื่อปกป้องการใช้เสียงของแต่ละบุคคลใน AI” และเร่งการพัฒนาของการตรวจจับเสียง

เป็นที่น่าสังเกตว่า Openai ได้เปิดระฆังนี้มาก่อนพร้อมกับเตือนว่ามันการจดจำใบหน้าซอฟต์แวร์และมันAPI SORA TEXT-TO-VIDEOเป็นสิ่งที่ดีอย่างน่าอัศจรรย์ที่จะอยู่ในตำแหน่งที่จะเปลี่ยนโลก