2024年挤满的选举年正在加剧,政治攻击也在加剧。美国总统乔·拜登(Joe Biden)已经被伪造在与新罕布什尔州初选有关的Robocalls中。现在,深击已经在更多的地方种族中浮出水面,受害的政客将深击技术对民主的潜在影响与大规模杀伤性武器进行了比较。
对于在边缘工作的公司Paravision和ID R&D,紧急威胁促使行动开发出可以匹配欺诈和注射攻击的新工具,由AI,视频深击,Deepfakes,音频欺骗和其他武器化技术。生物识别验证,面部识别可用的对策之一,算法深度学习和运动。但是最宝贵的资源是时间:新攻击的新闻每周都会破裂,而最大的鱼类 - 美国总统大选 - 几个月来。
在美国,警钟在州政府和联邦一级都在响起,促使一场争夺法规立法。 Spectrum新闻纽约报告在一张假录音中,前州议员基思·赖特(Keith Wright)被贬低了坐着的女议员伊内兹·狄更斯(Inez Dickens),通过称呼她的懒惰和无能。赖特(Wright)向托管伪造内容的平台发送了一封停止的信,他将目前的Deepfake Spoofs的监管景观与野外西部进行了比较。他说:“这只是非常非常危险的事情。” “这几乎就像人们能够使用的核弹。”
音频“热麦克风”深击中最引人注目,最危险的
一个来自CNN的报告有令人不安的纽约故事的回声。这次设置是去年的芝加哥市长比赛。候选人保罗·瓦拉斯(Paul Vallas)的深击音频进行了巡回演出,其中瓦拉斯(Vallas)拥护极端的亲政策意见。 (“回到我时代,警察在职业生涯中会杀死17或十八个平民。而且没有人会震惊。”)瓦拉斯失去了四分。他告诉美国有线电视新闻网(CNN):“我不会成为第一个,也不会成为最后一个骗局的受害者。”
汉尼朋友加州大学伯克利分校的数字取证专家说,这类“热麦克风”音频深击可能比伪造的视频更具吸引力。 “你看不到嘴在移动,”法里德说。 “你什么都没看。但是你听到了声音,它是内在的。听起来好像您在窃听它们。我认为那些真的很强大。”
ID R&D最近发布了新软件为了响应此类发展,用于检测语音克隆和防止深击音频攻击。
法律和工具努力拆除算法时炸弹
监管机构也一直在努力跟上。PBS报告本周,联邦通信委员会(FCC)禁止包含AI生成的声音的机器人。根据1991年《电话消费者保护法》的技术性,来自新罕布什尔州Deepfake Joe Biden的那些机器人现在是非法的。
“坏演员在未经请求的Robocalls中使用AI生成的声音来勒索弱势家庭成员,模仿名人FCC主席Jessica Rosenworcel说:“和错误的选民。违反法律可能会导致每个电话的诉讼或最高23,000美元的罚款。
新罕布什尔州的当局有确定了源在德克萨斯州的Life Corp.及其所有者Walter Monk的电话中,该电话由Lingo Telecom发送。以前已经对这两个实体进行了单独的非法机器人事件的调查。同时,包括加利福尼亚州在内的各州怀俄明州是追求或已经执行法律禁止合成媒体分配的人,而无需披露并打算操纵或欺骗。在纽约,在基思·赖特(Keith Wright)的深击之后,皇后会议员克莱德·范内尔(Clyde Vanel)推动新法律与他所谓的“身份盗用类固醇”作斗争。
投票权团体同样关注,并推动更快的立法对深层诉讼。组织等组织公民和布伦南正义中心让国会游说镇压合成媒体和生物识别深层攻击,并对使用该技术试图欺骗选民的任何人进行更严厉的处罚。
由于社交媒体的转变,选举过程现在将被不良意愿的合成人类所吸引。随着结果的结束,几乎没有一定的肯定 - 除了它是一次狂野而令人迷惑的旅行。