“嗨，媽媽，是我”：語音克隆服務要求更強大的聲音DeepFake檢測

“ AI可以竊取您的聲音，您對此無能為力”：因此，費城NBC分支機構的標題是故事該觀察語音克隆服務的威脅。它引用了新的消費者報告調查根據對六個“領先公開可用的AI語音克隆工具”的調查，並發現五個具有“易於旁路的保障措施”。

消費者報告確定，Speakify，Playht和Lovo作為“未經其同意，沒有有意義克隆某人的聲音的有意義的障礙”的服務，“只需要檢查一個盒子，說一個被克隆的人授權的人已經授權了。” ElevenLabs是為創建語音克隆的費用收取費用的少數平台之一。但是，以每筆流行5美元的價格，這並不是有效的障礙。

在回答中，Elevenlabs與2023年11月的RoboCall騙局說，它是“實施內容出處和真實性聯盟（C2PA）標準，通過將密碼簽名的元數據嵌入到我們平台上生成的音頻中”，並列出了客戶篩選，語音CAPTCHA及其無效的語音技術，這阻礙，就像保障措施一樣，它已經部署了。

該報告說，描述並類似於AI，其他兩家公司進行了調查，“採取了措施，使客戶難以通過創建非自願性語音克隆來濫用其產品。”但是，儘管“不完美的保障措施總比沒有好”，但需要更多的工作來實施由更強大的規則和執法控制的更強大的保護措施。

現實防守者之間的伙伴關係，ElevenLabs擴展語音培訓數據集

用格蕾絲·戈迪（Grace Gedye）的話說，消費者報告了政策分析師在概括在調查中，“很明顯，有一些技術可以用來使某人的聲音在未經他們同意的情況下克隆某人的聲音更加困難。”

問題的重力在財務上很明顯；在最近的一個博客文章從他引用了德勤金融服務中心的一項研究，他預測，到2027年，生成的AI可以使欺詐損失在美國達到400億美元，這是2023年的123億美元 - 複合年度增長率為32％。

共同努力可能會有所幫助。其他部落格，這是現實的後衛CTO ALI SHAHRIYARI，這是與Elevenlabs的戰略合作夥伴關係，該公司已經將紐約DeepFake專家整合了Elevenlabs的語音綜合數據，從現有和未來的模型中納入其檢測系統。

該公司的首席技術官阿里·沙裡亞里（Ali Shahriyari）表示，這種影響是變革性的：“我們的培訓數據集豐富了超過295個小時的高質量合成語音數據，在我們的檢測能力中提供了前所未有的深度和多樣性。”

Shahriyari說，這項合作在數據生成效率方面提高了十倍，加速了現實後衛的適應能力。而且，“也許最重要的是，由於我們與Elevenlabs的合作，現實辯護人團隊擴大了我們的檢測能力以涵蓋多種語言和口音，反映了全球性質。”

語音通道AI破壞可以與情感機器人進行長時間的對話

在回應消費者報告調查時，現實辯護人的高級應用科學家Surya Koppisetti說，“發生了很多變化”景觀：“生成的音頻不僅非常穩定，可以進行長時間的對話，而且情緒也可以表現得很富於。人類對什麼是假的聲音，什麼不再足夠好。”

科爾曼（Colman）的另一篇文章提出了一個新的威脅：語音通道AI中斷，或vcad。 “與傳統的電話拒絕服務（TDOS）攻擊不同，利用AI生成的聲音淹沒了具有較高呼叫量的系統，VCAD使用複雜的對話型AI機器人來吸引呼叫中心代理進行延長，逼真的對話，” Colman寫道。”

“這些互動消耗了公司資源，逃避標準檢測機制，並造成了重大的財務和聲譽損害。”他引用了TrueCaller的一項研究，發現基於語音的欺詐在美國造成250億美元的年損失

關於深擊的法規仍然滯後，碎片：科爾曼

“現在是事實科爾曼寫道：“已經達到了一定的成熟程度，使其成為對企業，金融機構和國家安全的直接威脅。”在另一個博客中，首席執行官（和Avid Blogger）包括監管措施目的是解決深層瘟疫，但說當前的監管生態系統（包括斑駁的州法律）是一種分散的方法，“確保網絡犯罪分子將繼續利用矛盾之處，增加欺詐損失並破壞對數字通信的信任。”

“最有效的Colman寫道：“將解決不像孤立的內容問題，而是將威脅到個人和組織的欺詐，模仿和信息戰的複雜向量。” “直到出現如此全面的法規之前，企業必須依靠保護其通信，身份驗證系統和數字交易的技術保障措施，以免越來越令人信服地說服AI-AI-ENI-SPAIND WIST。”

法規是否可以與威脅保持同步是一個懸而未決的問題。雖然便宜，簡單的語音克隆工具變得越來越容易訪問，但像Microsoft和到目前為止，由於害怕濫用濫用，迄今已將其提供的產品拒之門外。但是，該技術的存在是為了消除真實的人類聲音與，擦除人民的聲音和謬論的聲音。