当人工智能使政治深度伪造成为可能时

美国一些政党不惜利用人工智能生成虚假视频，抹黑候选人。选民很难辨别事实与虚构，这在 2024 年举行的下一次选举中存在被操纵的风险。而且该国远不是唯一受到关注的国家。

侵台战争中国、金融市场崩溃、洛杉矶犯罪爆炸……在一段看似现实的 33 秒视频中，但其中只包含虚假信息和图像，这段视频用令人痛苦的音乐描绘了如果乔·拜登再次当选。在左上角，几乎看不见，字体特别小，我们可以看到“生成者人工智能(IA)»（«完全使用 AI 图像构建”）。这段视频非常正式地来自共和党，去年四月，在民主党总统乔·拜登宣布竞选总统后，共和党播出了这段视频。

大规模虚假信息的风险

这个案例绝非孤例。最近，共和党总统候选人、佛罗里达州州长罗恩·德桑蒂斯用人工智能制作了另一个视频，这次的目的是抹黑他的竞争对手唐纳德·特朗普：我们可以看到前总统拥抱美国新冠先生安东尼·福奇的场景那从未发生过。随着美国大选的临近，这种看似夸张的视频可能会在未来几周内大量增加。这是世界各地专家特别担心的问题。因为“人工智能可以在工业规模上产生虚假信息”，提醒迈克尔·伍德里奇我们的同事监护人英国艾伦图灵研究所人工智能研究主任。

如何构建这些政治深度造假事件？

对于某些人来说，是时候了规范此类视频如果可能的话，在选举期开始之前为选举目的传播并由人工智能生成。因为人工智能可以增加虚假信息或令人震惊的图像来说服甚至操纵选民。但整个问题在于如何监管：当在线平台和社交网络已经难以消除虚假信息，并且仍然对用户分发的内容不负责任时，如何监管这些政治深度造假、这些低成本制作的视频或图像在他们的平台上？

据报道，在美国阿克西奥斯6 月 20 日星期二，这种做法目前既没有被禁止也没有受到监管。这项技术易于获取且价格低廉，使政党能够比在会议上演讲更有效地传达信息。然后，这些视频会在社交网络上大量传播，在最好的情况下，还会有一个不显眼的提示，警告它们是由人工智能生成的。

据报道，在该国，在联邦层面，没有任何规定禁止将这项技术用于政治目的，但美国联邦选举委员会于 6 月 20 日星期二解释说，它正在考虑制定针对政治深度伪造的法规阿克西奥斯。这可能包括人工智能生成的广告，旨在欺骗用户将其视为“虚假申报»，这一类别已受到现行法律的认可。我们的同事指出，对于经常禁止旨在操纵公众的内容的在线平台和网络，我们不会抱太大期望。

新法律、强制性信息、候选人的承诺？

然而，谷歌解释说阿克西奥斯那 ”所有广告，包括选举广告，都必须遵守我们的服务使用条款和条件，无论其制作方式如何。这些规则已经禁止使用被操纵来误导人们的媒体，例如深度伪造或篡改的内容，以及公然宣传有关选举的虚假信息的广告”。但对于Common Cause 的虚假信息分析师艾玛·斯坦纳（Emma Steiner）接受了我们同事的采访，平台“不愿意对不断演变的虚假信息叙述采取行动»。

那么是否需要制定新的法律呢？这是议员伊维特·克拉克(Yvette Clarke)的想法，她上个月向美国国会提交了一个项目。我们可以在本文中读到“生成人工智能领域的突破性创新» 容易受影响 «以前所未有的速度大规模加剧和传播虚假信息”。它要求公众至少知道，当政治广告包含人工智能创建的内容时，这些图像是由人工智能生成的。在欧盟内部，未来对人工智能的监管还规定了强制通知，告知用户人工智能的使用情况。但这一提及很容易被删除，批评一些认为有必要采取额外措施或保障措施的人。