正如我們本週早些時候報導的那樣，一場新的虛假宣傳活動已經出現，震撼了新罕布什爾州選舉過程的核心。
未知的個人或團體精心策劃DeepFake Robocall在喬·拜登（Joe Biden）總統的聲音中，敦促選民在即將舉行的新罕布什爾州總統大選棄權中。
這新罕布什爾州總檢察長辦公室迅速將記錄的信息標記為假貨，強調其抑制選民投票並破壞民主進程的潛力。
Deepfake技術與選舉
目前，總檢察長辦公室正在調查的這一事件引起了人們對在政治運動中廣泛使用深層技術的擔憂。
隨著2024年美國總統選舉的即將到來，官員，專家和政客們越來越震驚地對可能損害選舉完整性的生成AI工具的可及性和可用性感到震驚。
聯邦選舉委員會認識到AI驅動的政治運動構成的潛在威脅，最近禁止使用生成AI內容，包括Chatgpt等工具。但是，新罕布什爾州的事件強調了有效執行此類法規的挑戰。
專家說，Biden Robocall使用Elevenlabs工具完成
如報導有線，DeepFake Biden Robocall很可能與硅谷領先的語音宣傳初創公司Elevenlabs有關。
這一啟示為不斷發展的故事增添了新的維度，強調了尖端技術在誤導信息的產生和分發中的作用。
Elevenlabs，最近以8000萬美元的資金回合獲得了“獨角獸”的地位估值為11億美元，已成為AI語音克隆的領導者。該公司的工具最初打算用於有聲讀物和視頻遊戲，現在正在審查其在政治宣傳中的潛在用途。
該公司的投資者包括Andreessen Horowitz，Nat Friedman（Github的前首席執行官）和Mustafa Suleyman（AI Lab DeepMind的共同創始人）等著名名稱。
專門從事合成音頻的安全公司Pindrop進行了一項分析，該分析確定Elevenlabs的技術是Deepfake Biden Robocall的最有可能來源。
他們的發現在加州大學伯克利分校信息學院的獨立分析的支持下，這表明將事件歸因於Elevenlabs具有很高的信心水平。
惡意使用AI
這一啟示不僅引發了有關語音克隆技術的道德使用的疑問，而且還強調了對防止其濫用的嚴格保護措施的需求。
該事件引發了關於AI初創公司的責任，以確保其技術不會出於惡意目的而被武器化。
此外，Wired還提到了一家Discord服務器的存在，其中Elevenlabs的愛好者討論了Clone Biden的聲音的計劃，並分享了與Deepfake內容的鏈接，其中包括唐納德·特朗普（Donald Trump）和巴拉克·奧巴馬（Barack Obama）等政治人物。這個額外的層揭示了對先進AI技術的不受監管的潛在社會影響。
保持在Tech Times。
