上周末，几位选民接到了疑似乔·拜登的电话，邀请他们在美国某州的民主党初选期间不要投票：这是在选举背景下利用人工智能散布虚假信息的又一案例，这让许多人感到担忧专家。
大西洋彼岸将人工智能用于政治目的的新事件：最近几天，1 月 23 日星期二举行民主党初选的美国新罕布什尔州的选民接到了一个特殊的电话。在电话的另一端，即将卸任的民主党总统乔·拜登说道：“这简直是无稽之谈。您的投票将在 11 月而不是本周二产生影响”。据报道，美国国家元首邀请选民不要投票美联社，本周二，1 月 23 日。其发件人似乎（错误地）来自新罕布什尔州民主党前主席凯西·沙利文（Kathy Sullivan）的个人号码，她支持乔·拜登。然而，这位政客从未打过这些电话——她提出了投诉。就像乔·拜登从未说过这些话一样。
«新罕布什尔州选民绝对应该忽略此消息的内容»，在 1 月 22 日星期一发布的新闻稿中提醒总检察长办公室。根据后者的说法，这些电话“似乎是非法企图扰乱新罕布什尔州总统初选并阻止选民投票”。白宫通过其通讯部门证实了这一通话“确实是假的，总统也没有记录。”
大众或个性化虚假信息的时代？
在美国，下一届总统选举将于年底举行，候选人预先录制信息然后通过电话广播是很常见的。但由于生成式人工智能已成为一种易于使用的技术，并且目前对用户几乎免费，因此人们对其用于政治操纵的担忧不断增加。我们记得教皇穿着白色羽绒服的第一张照片。随后出现了其他更具政治性的用途：旨在抹黑乔·拜登的视频，描绘了世界末日的未来如果民主党总统连任，生成唐纳德·特朗普的声音有意诋毁他......随着初选的临近，病例数成倍增加。恐惧也加剧了。
我们如何防止这项技术使复制声音或生成“深度伪造”（这些看似真实的虚假视频）被滥用来操纵选民，欧洲政策中心（CEPS）等机构想知道。智库。尤其是现在创建内容变得简单、快速且廉价”个性化虚假信息 »。今天的问题更加严重，欧洲目前没有任何法律或技术文书无法成功阻止人工智能生成或大规模分发的误导性内容的传播在选举期间，向 CEPS 发出警报。大西洋彼岸的情况也类似，尽管美国的某些州已试图采取补救措施。
开发商更新服务条款
加利福尼亚州、密歇根州、明尼苏达州、德克萨斯州和华盛顿州已通过法律，禁止政客在竞选期间使用“深度造假”。人工智能开发人员也评估了这个问题，通过修改一般条件来排除候选聊天机器人的开发——这些机器人将代替特定的政客做出反应。 ChatGPT 背后的初创公司 OpenAI 也禁止将其技术用于政治竞选。未经本人同意盗用他人身份的行为是完全禁止的。 Sam Altman 的公司最近甚至删除了一个违反这一规则的账户——后者开发了一个模仿国会议员 Dean Phillips（参加民主党初选）的 ChatGPT。
但我们如何才能防止个人使用所有人都可以使用的人工智能来制造和传播虚假信息呢？我们是否应该强加提及“由人工智能生成”任何使用人工智能的内容，以及如何实施它？当局尚未找到解决方案。与此同时，OpenAI 正在积极寻找欧洲、中东和非洲选举的项目经理。登记册，本周二，1 月 23 日。其使命：识别与选举相关的风险，并设计和部署“缓解策略”。年薪：19万美元。
来源 ： 美联社
