在2024年的各种选举中,深击的幽灵继续徘徊,即使实际几乎没有Deepfake驱动的破坏已经实现了,最近进行过Google Image搜索的任何人都会知道多少假内容淹没了数字世界。
作为回应,微软为希望建立开放的技术标准的组织提供了支持,以建立数字内容的出处并确定AI生成的资产。在巴西,DFRLAB和里约热内卢联邦大学Netlab UFRJ正在测试“各种方法来检查研究方法的景观,以帮助识别可能影响选举的选举深层策略”。同时,在加利福尼亚州,美国地方法院暂停了一项法律,允许任何人起诉赔偿选举深击,暗示它可能违反宪法。
微软提供“内容凭据”来抗击DeepFake威胁
一个邮政凡妮莎·霍(Vanessa Ho)在微软的建筑AI中负责任地说,随着深层蛋糕变得更容易创建,它致力于支持“具有负责任的AI工具和实践”的“更值得信赖的信息生态系统”。
安德鲁·詹克斯(Andrew Jenks)是微软,以及Microsoft共同创立的内容出处和真实性联盟(C2PA)主席。 “对深击他说,可能会非常严重。它们是一种认知黑客的一种形式,改变了您与现实的关系以及您对世界的看法。”
生成的AI正在刺激虚假信息上升。身份盗用和政治干预范围内的生态系统中欺诈者的范围很大,在这个生态系统中,未经信用和未包含的内容可以自由地循环。
微软,以前曾推动过谁欺诈目前正在预览一项应用程序,该应用程序允许创建者和发布者在其工作中添加“内容凭据”,或者是认证的元数据,该元数据在诸如WHO制作内容,制作时以及其创建涉及AI等详细信息上都可以作为一种无形的信任邮票。
詹克斯说:“内容证书提供了重要的透明度,无论是否参与了AI,可以帮助人们对他们在线共享和消费的内容做出更明智的决定。” “随着识别内容采购和历史的更容易,人们可能会对缺乏特定出处信息的材料持怀疑态度。”
确定深层蛋糕对于巴西研究人员来说仍然是一个费力的过程
DeepFake内容当时巴西人本周前往民意测验,在DFRLAB和里约热内卢联邦大学的Netlab UFRJ的研究人员中一直在研究。对于DFRLAB,Beatriz Farrugia探索在一项案例研究中,“在2024年巴西选举之前识别深击的挑战”,这说明了研究人员和其他人试图识别的困难生成内容,并查看新的法规,“编纂规则,指出AI生成或编辑的任何广告系列内容都必须以免责声明为特征,以确认使用AI的使用。”
对平台合规性识别深击和AI产生的内容的彻底分析导致以下结论:“可用的研究方法有局限性,以监测AI生成的图像大规模。由于平台搜索功能中当前的局限性,识别AI生成的内容仍然是一个费力的过程,无论是研究社区,选举官员还是广大公众,都需要持续且经常进行手动监控。”
法官说
在对幽默机制的无幽默裁决中,USUS地区法官John A. Mendez授予了一项初步禁令,阻止了加利福尼亚州的法律,该禁令使人们赋予人们对深层诉讼造成的损害的权利,称这可能违反了第一修正案。
美联社引用裁决,其中大多数AB 2839充当锤子而不是手术刀,是一种钝工具,阻碍了幽默的表达,并违宪地扼杀了自由和不受限制的思想交流,这对美国民主辩论至关重要。”
该法律仅持续了一个月,并伴随着另外两项法案,对使用AI的使用进行了严格的限制来创建虚假的图像或视频政治广告。
支持法律的公民已发布陈述从其联合总统罗伯特·韦斯曼(Robert Weissman)中说:“法院的裁决错过了深层诉讼的基本问题,这不仅仅是他们提出虚假的主张,而是向候选人表明候选人说或做的事情没有说或做任何事情。法院建议有目标的候选人可以在候选人中做出反应,而是在候选人中做出回应 - 候选人不愿意,不愿意他们的眼睛,而不是相信他们的眼睛。
他指出,法院“认识到标签要求,如果剪裁狭义,可以通过宪法召集”。对民主的威胁。”