网络安全专家在即将举行的2024年美国总统选举中对可能滥用人工智能（AI）的可能性越来越担心，尽管该技术有可能制定量身定制的竞选策略和制定政策。
卡塔斯主义技术招聘总监理查德·希顿（Richard Heaton）认识到AI的双重性质，强调相同的技术增强选举安全是一款“双刃剑”“被利用被操纵如美国太阳报所报道，数据并干扰选举过程。
AI在数据分析和模式识别方面的能力引起了对恶意参与者使用该技术进行投票和传播错误信息的恐惧。 Heaton指出，对AI在分析选民数据中的不道德使用可能会导致有针对性的虚假信息运动，而有偏见的AI算法可能会在社交媒体平台上放大特定的观点或假新闻，从而可能震撼公众舆论。
美国选举的诚信受到威胁
网络安全专家特别强调了Deepfakes的危险，AI生成的合成媒体在2024年美国总统大选中滥用了人的音频，照片或视频中的相似之处。 Michael＆Associates运营副总裁Ben Michael引用的一个例子涉及AI Deepfake在一个机器人赛中冒充总统Joe Biden的示例，阻止选民参加新罕布什尔州的民主党初选。这一事件强调了Deepfakes对AI技术的发展所构成的重大威胁，在政治格局中既有机会和风险。
TechTimes最近报道Deepfake Biden Robocall和Elevenlabs是硅谷领先的语音宣传初创公司之间的可能联系。综合音频安全公司Pindrop将Elevenlabs确定为Deepfake Biden Robocall的可能来源，并从UC Berkeley信息学院进行了独立的分析，支持了对归因的高度信心。
专家指出，能够在几秒钟内产生令人信服的深击的高级AI工具的可访问性引入了2024年美国总统大选的新威胁。他们补充说，在没有适当标签的情况下流通的欺骗性内容的风险较高，在选举前的日子里有可能欺骗选民。场景包括将政治候选人描绘成在卫生紧急情况下错误或从未发表的陈述。
美国有迫在眉睫的虚假信息危机吗？
为了应对这些对AI滥用和深层诉讼的担忧，美国几个州的立法者，包括夏威夷，南达科他州，马萨诸塞州，俄克拉荷马州，内布拉斯加州，内布拉斯加州，印第安纳州和怀俄明州，正在介绍立法，以禁止在特定时期内披露AI生成的媒体，而不是在特定时期内进行适当的披露。
在内布拉斯加州，民主党人提议扩大该禁令，以在选举后60天内覆盖所有深层。亚利桑那共和党人建议一项法案，允许在“数字模仿”中描绘的个人起诉救济或损害，根据NBC新闻。尽管尚未进步，但在爱达荷州，肯塔基州，弗吉尼亚州，俄亥俄州，南卡罗来纳州和新罕布什尔州也看到了类似的立法努力。但是，提出这些法案并不能保证其最终颁布的法律。
但是，人权倡导非政府组织Free Press透露，X，Meta和YouTube废除了17条仇恨和虚假信息规则。根据PBS的说法，YouTube在去年6月说不再阻止视频错误地指控2020年或之前的美国选举有严重的欺诈，缺陷或问题。这项政策变更促进了关于不受欢迎或未经证实的政治思想的免费讨论。
根据华盛顿大学误解专家凯特·星鸟（Kate Starbird）的说法，这三位社交媒体巨头还削减了工人，包括内容主持人，这引起了人们对2024年可能发生的虚假信息危机的担忧。
