“ AI可以窃取您的声音，您对此无能为力”：因此，费城NBC分支机构的标题是故事该观察语音克隆服务的威胁。它引用了新的消费者报告调查根据对六个“领先公开可用的AI语音克隆工具”的调查，并发现五个具有“易于旁路的保障措施”。
消费者报告确定，Speakify，Playht和Lovo作为“未经其同意，没有有意义克隆某人的声音的有意义的障碍”的服务，“只需要检查一个盒子，说一个被克隆的人授权的人已经授权了。” ElevenLabs是为创建语音克隆的费用收取费用的少数平台之一。但是，以每笔流行5美元的价格，这并不是有效的障碍。
在回答中，Elevenlabs与2023年11月的RoboCall骗局说，它是“实施内容出处和真实性联盟（C2PA）标准，通过将密码签名的元数据嵌入到我们平台上生成的音频中”，并列出了客户筛选，语音CAPTCHA及其无效的语音技术，这阻碍，就像保障措施一样，它已经部署了。
该报告说，描述并类似于AI，其他两家公司进行了调查，“采取了措施，使客户难以通过创建非自愿性语音克隆来滥用其产品。”但是，尽管“不完美的保障措施总比没有好”，但需要更多的工作来实施由更强大的规则和执法控制的更强大的保护措施。
现实防守者之间的伙伴关系，ElevenLabs扩展语音培训数据集
用格蕾丝·戈迪（Grace Gedye）的话说，消费者报告了政策分析师在概括在调查中，“很明显，有一些技术可以用来使某人的声音在未经他们同意的情况下克隆某人的声音更加困难。”
问题的重力在财务上很明显；在最近的一个博客文章从他引用了德勤金融服务中心的一项研究，他预测，到2027年，生成的AI可以使欺诈损失在美国达到400亿美元，这是2023年的123亿美元 - 复合年度增长率为32％。
共同努力可能会有所帮助。其他博客，这是现实的后卫CTO ALI SHAHRIYARI，这是与Elevenlabs的战略合作伙伴关系，该公司已经将纽约DeepFake专家整合了Elevenlabs的语音综合数据，从现有和未来的模型中纳入其检测系统。
该公司的首席技术官阿里·沙里亚里（Ali Shahriyari）表示，这种影响是变革性的：“我们的培训数据集丰富了超过295个小时的高质量合成语音数据，在我们的检测能力中提供了前所未有的深度和多样性。”
Shahriyari说，这项合作在数据生成效率方面提高了十倍，加速了现实后卫的适应能力。而且，“也许最重要的是，由于我们与Elevenlabs的合作，现实辩护人团队扩大了我们的检测能力以涵盖多种语言和口音，反映了全球性质。”
更多语言，更多关于商业级深击的培训
Elevenlabs'现在，大约占现实辩护人总训练数据集的20％，增加了对商业级合成声音和关键现实世界多样性的影响。
从技术上讲，实施侧重于三个关键领域：综合模型培训，以提高准确性，多语言能力，可跨八种语言进行检测，以及基于推理的检测，可以识别合成内容，无论其起源如何。
“我们增强的识别商业级声音的能力Shahriyari说：“这代表了防止复杂威胁的关键进步。” “通过更有效的数据生成过程，我们加快了开发周期，从而使对新兴合成语音技术的反应更快。”
该帖子称合作伙伴关系“是一种模型公司可以共同努力，以确保强大的新技术负责发展。”
语音通道AI破坏可以与情感机器人进行长时间的对话
在回应消费者报告调查时，现实辩护人的高级应用科学家Surya Koppisetti说，“发生了很多变化”景观：“生成的音频不仅非常稳定，可以进行长时间的对话，而且情绪也可以表现得很富于。人类对什么是假的声音，什么不再足够好。”
科尔曼（Colman）的另一篇文章提出了一个新的威胁：语音通道AI中断，或vcad。 “与传统的电话拒绝服务（TDOS）攻击不同，利用AI生成的声音淹没了具有较高呼叫量的系统，VCAD使用复杂的对话型AI机器人来吸引呼叫中心代理进行延长，逼真的对话，” Colman写道。”
“这些互动消耗了公司资源，逃避标准检测机制，并造成了重大的财务和声誉损害。”他引用了TrueCaller的一项研究，发现基于语音的欺诈在美国造成250亿美元的年损失
关于深击的法规仍然滞后，碎片：科尔曼
“现在是事实科尔曼写道：“已经达到了一定的成熟程度，使其成为对企业，金融机构和国家安全的直接威胁。”在另一个博客中，首席执行官（和Avid Blogger）包括监管措施目的是解决深层瘟疫，但说当前的监管生态系统（包括斑驳的州法律）是一种分散的方法，“确保网络犯罪分子将继续利用矛盾之处，增加欺诈损失并破坏对数字通信的信任。”
“最有效的Colman写道：“将解决不像孤立的内容问题，而是将威胁到个人和组织的欺诈，模仿和信息战的复杂向量。” “直到出现如此全面的法规之前，企业必须依靠保护其通信，身份验证系统和数字交易的技术保障措施，以免越来越令人信服地说服AI-AI-ENI-SPAIND WIST。”
法规是否可以与威胁保持同步是一个悬而未决的问题。虽然便宜，简单的语音克隆工具变得越来越容易访问，但像Microsoft和到目前为止，由于害怕滥用滥用，迄今已将其提供的产品拒之门外。但是，该技术的存在是为了消除真实的人类声音与，擦除人民的声音和谬论的声音。
文章主题
|||||||||
