研究人员对法国、意大利和德国所谓的“数字民粹主义”进行了评估。他们担心生成式人工智能工具的使用会增加虚假信息言论的影响。对于后者，当前的法律或技术工具将无法成功阻止人工智能大规模生成或分发的仇恨或误导性内容的传播。
政客们说出了他们从未说过的句子，从未发生过的场景，这些场景证明了阴谋论……在接下来的竞选活动中，虚假图像和AI 生成的视频将在社交网络上倍增。如果什么都不做，我们如何辨别真假呢？欧洲政策中心 CEPS 于 2023 年 10 月 10 日星期二发布了一项研究报告，生成人工智能 (AI) 工具将极大地震撼欧洲下一次选举，民主辩论将发生重大改变。这个位于法国、德国和意大利的智库无疑已经敲响了警钟。«如果我们考虑明年的欧洲选举，现有的内容审核规则（如数字服务法规 (DSA），在生成式人工智能时代已经过时了», 写下该研究的作者。
其中包括维克多·沃海姆（Victor Warhem），法国经济学家、法国智囊团代表，他解释说，对他来说，一切都是从对德国 AFD 某些做法的观察开始的。01网。近几个月来，德国极右翼使用了由中途移民似乎具有威胁性，他们的政治信息也附在其中。四位研究人员会问自己“新人工智能工具对在线政治话语的影响”。这些不会进一步使本已高度……两极分化的辩论变得两极分化吗？
从“过滤气泡”到人工智能
随着“过滤气泡研究人员写道，在社交网络中，个人面临着“r与我们共同的现实不同的过滤现实”。后者将不再相信«从其他过滤器中出现的信息»，注释该研究。但有了人工智能，我们确实改变了规模。由于聊天GPT，MidJourney、Dall-E、Bard 和所有其他公司，现在创建内容变得简单、快速且廉价”个性化错误信息。人工智能生成的“深度造假”甚至扭曲了我们对“真相”和共同的、客观的共享现实的理解”。因此，选举中的候选人可以利用其竞争对手的形象，让他说或做任何事情——美国大选的共和党候选人罗恩·德桑蒂斯（Ron DeSantis）已经对他的对手唐纳德·特朗普做到了这一点。
那么如何“保持理性辩论“在这样的背景下？”研究人员问道。根据后者的说法，“民粹主义者”（他们认为这个术语是“有争议的» 等 «变色龙“，指定反对的事实”从“人民”到“腐败精英””）以前依靠社交网络开展活动，现在正在采用人工智能 (AI)。维克多·沃汉姆强调说，这些系统将增强它们的打击力量，赋予它们倍增的能力。
数字生态系统与人工智能相结合“增加了民粹主义运动成功的机会”
«人工智能让政治“更容易、更便宜、更危险”“”，几个月前我们的同事已经写道布隆伯格。或者， ”人工智能放大的虚假信息活动的危险是非常真实的“，自从数字生态系统与人工智能相结合”最终增加民粹主义政治运动成功的机会»，该研究中引用的合著者之一卡米尔·雷奥 (Camille Réau) 警告道。足以对民主构成真正的危险。
这项研究主要针对法国的 RN、LFI 和 Eric Zemmour 的政党 Reconquête!，研究表明他们目前对人工智能的使用仍然处于边缘地位。 Victor Warhem 解释说，特别是因为人工智能时代还没有真正的运动。例如，收复失地党使用了 ChatGPT (ChatZ) 的复制品，这是来自 Eric Zemmour 的虚拟活动家，他会回答您的所有问题并试图说服您投票给他的支持者。
玛丽娜·勒庞的政党则在社交网络上使用机器人，这使得在 X（以前的 Twitter）等社交网络上模拟某种恶名成为可能。 “通过自动生成推文并与其他用户互动，机器人可以识别热门话题、影响者，并充当扩音器来传达信息或经常有争议的主题»，他们写道。
诽谤和审核对人工智能生成的假新闻内容无效
问题是，今天还没有真正有效的法律武器来对抗仇恨言论或完全是错误的，旨在操纵我们。«如果明天，弗拉基米尔·普京决定在欧洲选举或美国选举的背景下发动大规模虚假信息攻击：他的机器人大军将不断生成虚假视频和虚假音频。但是，我们没有可用的工具来阻止此内容进入每个人的提要。这种事很快就会发生在我们身上，而我们却无能为力。», 感到震惊维克多·沃海姆。 DSA 计划的许多措施不会在 2024 年欧洲选举之前全部实施。
为了打击“平台上的数字民粹主义”，该研究的作者建议在人工智能生成的内容不被广播之前实施“事前”方法，也就是说上游。当前的措施，例如自动检测和删除被认为有问题的内容，将不再足够，相信作者。对于“手动审核内容并创建新的监管机构 »。因为一旦内容被传播，损害就已经造成了。假新闻已经传播了，最多只能在广泛传播后才会被删除。
强制提及、内容传输缓慢、公民大军、同意……
作者提出了不同的措施来解决这个问题。对于人工智能生成的内容，强制性的“人工智能生成”标签或清晰可见的标签将使得人们能够一目了然地区分真实的语音和虚假的、真实的视频和深度伪造的视频。但这种技术手段肯定还存在——现在还不是这样。这项措施于去年六月被添加到欧洲良好行为准则清单中——这是一个不具约束力的规则体系。欧洲高管随后询问所有签署方立即清楚地报告在其平台上发现的所有人工智能生成的内容。
研究人员还提出了“内容传输缓慢»，例如，这会限制帖子的病毒式传播——点赞和分享的数量有限。 “我们也可以强制平台将完全超出用户意识形态范围的内容引入用户的提要中» – 这相当于对算法进行改变，至少在选举期间是这样。 “这完全违背了平台的利益，平台对用户看到内容感兴趣符合他们的意识形态、他们的愿望”，以便他们在自己的平台上停留更长时间。
对于维克多·沃霍尔 (Victor Warhor)，法国在其国家建议中提出了额外措施确保数字技术安全的法案。和文章，10 月 10 日星期二由政府提交，提供“一种被选中的公民军队，引用，由政府团队“标记”内容，然后将由平台上的内容管理员进行管理», 经济学家解释。该系统可以模仿维基百科的志愿者内容管理员。一个其他拟议措施该专家补充道，将对那些未经同意传播深度假货的人进行惩罚。他继续说，目标是限制深度伪造品用于有害目的。
对于作者来说，2024 年的选举将产生碰撞测试的效果。我们可能会意识到，当前的工具无法有效打击虚假信息，甚至是由人工智能生成或通过人工智能大规模传播的操纵内容。他们认为，因此我们应该立即采取行动。因为在这样的背景下，他们问，它还能“存在一个欧洲“社会”——因此，一场集体的、全社会的辩论对于民主的长期生存至关重要»？
