正如我们本周早些时候报道的那样，一场新的虚假宣传活动已经出现，震撼了新罕布什尔州选举过程的核心。
未知的个人或团体精心策划DeepFake Robocall在乔·拜登（Joe Biden）总统的声音中，敦促选民在即将举行的新罕布什尔州总统大选弃权中。
这新罕布什尔州总检察长办公室迅速将记录的信息标记为假货，强调其抑制选民投票并破坏民主进程的潜力。
Deepfake技术与选举
目前，总检察长办公室正在调查的这一事件引起了人们对在政治运动中广泛使用深层技术的担忧。
随着2024年美国总统选举的即将到来，官员，专家和政客们越来越震惊地对可能损害选举完整性的生成AI工具的可及性和可用性感到震惊。
联邦选举委员会认识到AI驱动的政治运动构成的潜在威胁，最近禁止使用生成AI内容，包括Chatgpt等工具。但是，新罕布什尔州的事件强调了有效执行此类法规的挑战。
专家说，Biden Robocall使用Elevenlabs工具完成
如报道有线，DeepFake Biden Robocall很可能与硅谷领先的语音宣传初创公司Elevenlabs有关。
这一启示为不断发展的故事增添了新的维度，强调了尖端技术在误导信息的产生和分发中的作用。
Elevenlabs，最近以8000万美元的资金回合获得了“独角兽”的地位估值为11亿美元，已成为AI语音克隆的领导者。该公司的工具最初打算用于有声读物和视频游戏，现在正在审查其在政治宣传中的潜在用途。
该公司的投资者包括Andreessen Horowitz，Nat Friedman（Github的前首席执行官）和Mustafa Suleyman（AI Lab DeepMind的共同创始人）等著名名称。
专门从事合成音频的安全公司Pindrop进行了一项分析，该分析确定Elevenlabs的技术是Deepfake Biden Robocall的最有可能来源。
他们的发现在加州大学伯克利分校信息学院的独立分析的支持下，这表明将事件归因于Elevenlabs具有很高的信心水平。
恶意使用AI
这一启示不仅引发了有关语音克隆技术的道德使用的疑问，而且还强调了对防止其滥用的严格保护措施的需求。
该事件引发了关于AI初创公司的责任，以确保其技术不会出于恶意目的而被武器化。
此外，Wired还提到了一家Discord服务器的存在，其中Elevenlabs的爱好者讨论了Clone Biden的声音的计划，并分享了与Deepfake内容的链接，其中包括唐纳德·特朗普（Donald Trump）和巴拉克·奥巴马（Barack Obama）等政治人物。这个额外的层揭示了对先进AI技术的不受监管的潜在社会影响。
保持在Tech Times。
