正如2024年美国总统选举的方法一样，数字信息完整性专家警告说，人工智能（AI）生成的材料的使用日益增长，可能会混淆或误导选民。
由于新兴的人工智能技术，人们对在政治运动期间传播虚假信息的担忧正在增长产生令人信服的文字，现实的视觉效果，甚至是视频和音频。
随着竞选活动的加剧和选举的临近，华盛顿大学教授，知情公众的联合创始人杰文·韦斯特（Jevin West）这样的专家强调了AI可能产生的潜在影响，这是公众已经目睹的。
选举诚信有风险
由于社交媒体公司是数十亿人寻找信息和不诚实个人经常传播不正确信息的场所，因此他们必须应对这些危害。
但是，这些企业必须克服的多种障碍使得跟上即将到来的不准确选举相关的材料的海啸越来越具有挑战性。
选举的诚信，安全和负责任的AI团队由于许多大型社交网络而减少了他们在过去几个月中与选举相关的虚假信息的执法工作，因此裁员了。
此外，最近的一名联邦法官裁定限制了美国当局与社交媒体公司之间的联系，这也强调了有关管理与选举有关的错误信息的担忧。
尽管上诉法院暂时阻止了禁令，但该判决强调了社交媒体公司具有挑战性的环境必须穿越。
由于出现了生成的AI技术，因此2024年的活动和选举具有显着的高风险，这些技术的出现使得使用计算机生成的语音，视频和图片可以快速生产针对特定受众的人工内容。
专家提请注意几种情况，在这种情况下，生成AI可能会产生假新闻为了误导选民，恶意政治家根据PBS报告，或鼓励暴力。
示例包括制作演讲或访谈的视频镜头，具有虚假信息的自动机器人，操纵候选人的录音，供认犯罪或表达种族主义观点，以及创建看起来像当地新闻报道的虚假图像以传播虚假信息。
最近的事件涉及佛罗里达州州长罗恩·德桑蒂斯（Ron DeSantis）的总统竞选活动在Twitter上分享的视频，其中包括AI生成的唐纳德·特朗普（Donald Trump）的图像，唐纳德·特朗普（Donald Trump）拥抱安东尼·富奇（Anthony Fauci）博士，强调了可能的风险。
Twitter并没有删除视频，而是发表了社区评论，以告知观众AI生成的照片的起源，即使事实检查组和注意用户很快就识别出Phony图像。
解决AI的AI问题
AI生成的虚假信息是一个发展的问题，需要各种解决方法。目前正在开发有关材料来源和材料路径的更好信息的工具。旨在帮助艺术家身份验证照片的是由Adobe协调的内容真实性计划。
根据Google，Meta和Microsoft的说法，他们正在积极实施当前的法规，并制定新的策略来处理AI生成的材料提出的特定问题。这些举措包括AI的系统以识别和过滤危险信息以及事实检查过程，每个轴。
具有讽刺意味的是，一些专业人员支持使用AI来识别使用人工智能产生的虚假信息。虽然持续的军备竞赛可能会出现，但人类内容审查员可能很难跟上AI生成的材料的泛滥。
教育公众辨别消费者的信息至关重要。但是，它需要大量的投资和协调的努力，并且可能会遇到那些从未受过教育的人民中获得的抵制。
