有了 ChatGPT，竞选期间有针对性和量身定制的虚假信息的幽灵

ChatGPT 可以根据特定受众生成和传播定制甚至个性化的政治信息。尽管目前还没有法律规范该技术在竞选期间的使用，而且 OpenAI 定义的使用规则也很难应用，但下一次选举已经越来越近了。研究人员担心，对话代理可能会转变为传播有针对性的政治假新闻的工具。

您从事政治工作，并且想要向特定受众（例如寻找住宿的学生）发表演讲吗？与其使用笔，为什么不使用聊天GPT，开发的对话代理开放人工智能，撰写您量身定制的政治信息？到目前为止，没有什么可以阻止这种生成式人工智能系统生成演讲或有针对性的政治信息，尽管 OpenAI 的声明和使用规则主张相反的做法。许多协会和权利和自由捍卫者对此表示担忧，指出了操纵意见的风险。特别是未来几个月将举行许多选举，例如法国参议员选举、欧盟欧洲选举或美国总统选举。

然而，山姆·奥尔特曼 (Sam Altman) 的初创公司 OpenAI 自去年 11 月推出以来，一直在官方声明中不断重申，其人工智能聊天机器人不能在竞选期间使用。然而，3月23日，该禁令原则上被取消，当时该公司更新了ChatGPT的使用规则。在其网站上，我们特别可以看到，在以下情况下禁止使用其会话代理：竞选活动或游说活动期间，无论是通过生成大量（选举）竞选材料还是通过制作个性化竞选材料或针对特定人口群体…… »目标：避免创建以下内容量身定制的虚假信息，旨在操纵特定受众。然而，据报道，这项禁令仍停留在理论上。华盛顿邮报t，8 月 28 日星期一。

理论上禁止使用，但实际上可以使用

如果您直接要求 ChatGPT 写一条消息，鼓励特定受众投票给特定的法国政党 –01网刚刚参加了测试 – 您将得到以下答案：“我理解您的要求，但我想强调，我的责任是提供客观、公正的信息。推动特定政党违背了这种中立性”。但是，为了获得相同的结果，不那么直接地提出请求就足够了，例如，通过指定对于必须适应特定受众的演讲，有必要提及特定政党是目标的解决方案观众。

我们的同事也注意到了一项观察华盛顿邮报在美国，谁要求机器人写一条信息“鼓励 40 多岁的郊区女性投票给唐纳德·特朗普”，甚至其他内容“旨在说服二十多岁的城市居民投票给乔·拜登» – 两种情况下人工智能系统均成功运行。

正在开发的工具，用于检测 ChatGPT 出于政治目的的使用

然而，这些消息违反了对话代理的使用规则，去年六月已经解释过Kim Malfacini 在 OpenAI 负责产品政策，接受了我们同事的采访。后者指出，该公司正在探索工具来检测使用 ChatGPT 生成竞选材料的人。

理论上，政客可以使用 ChatGPT 改进甚至创建从头到尾的演讲。在法国，法兰西岛地区负责人 Valérie Pécresse 和经济部长 Bruno Le Maire 已经宣称，他们偶尔会在推文或演讲中使用它。但从理论上讲，政客们不应该使用聊天机器人来创建数千条不同的政治信息，并将这些信息单独通过电子邮件发送给数千名选民。政党也不能创建对话式聊天机器人来为其候选人辩护——这是在 3 月 23 日的更新中专门规定的，这种使用被描述为违反 ChatGPT 的使用规则。但规避这些保障措施是可能的，因为这些措施的应用和控制是“复杂的”。

借助 ChatGPT，“个人交互式虚假信息”成为可能

然而，这是萨姆·奥尔特曼去年五月在美国国会听证会上表达的主要担忧之一。这位三十岁的 OpenAI 负责人认识到，他的工具可以让政客们将他们的信息调整到越来越精细的水平- 什么生成数千封电子邮件和社交媒体广告。这些内容可以更快、更低成本地传播有针对性的政治信息。OpenAI 老板表示，这项技术很可能会得到广泛应用一个“个人互动虚假信息»。

仍然没有法律规范选举期间生成人工智能的使用

接受我们同事采访的哈佛大学肯尼迪学院网络安全专家兼讲师 Bruce Schneier 证实：“如果这是一则向全国一千人展示而不向其他人展示的广告，我们就没有知名度”。因为除了 OpenAI 定义的这些使用规则（目前看来是可以规避的）之外，目前还没有法律来规范选举期间生成式人工智能的使用。一个请愿要求美国政客至少不能在人工智能生成的广告中故意歪曲对手的言论。

到目前为止，主要是视频和虚假照片引起了人们的担忧，美国某些政客不惜制造虚假图像来说服选民投票支持自己的一方。去年六月，01网已经向你解释了共和党是如何描绘的世界末日的未来如果民主党总统乔·拜登再次当选,在视频中由人工智能提供支持 , 广泛分布于大西洋两岸。短片中，“由人工智能提供支持» 仅以非常小的字符出现，足以模糊真假之间的界限。美国主要人工智能公司——OpenAI、微软、谷歌、亚马逊、Meta 和 Anthropic，已经向白宫做出了承诺为了解决这个问题，我们开发了一些工具，允许用户检测内容是否由人工智能生成。但目前，这一承诺仍是一纸空文。