几年前，视频中首次出现的深度造假就引发了人们对最坏情况的担忧，而最坏的情况确实正在发生。随着创作工具的民主化，我们正在观察到用名人或匿名人士的面孔制作的色情深度假货的爆炸式增长——显然，这是在未经受害者授权的情况下进行的。
要查找色情深度假货，只需询问：访问托管此类视频的网站确实非常容易其质量不断提高。不幸的是，绝大多数深度伪造品都是在未经受害者同意的情况下制作的，受害者在不知情的情况下“借出”自己的面孔。电影明星、电视真人秀明星、匿名者……任何人都可能成为攻击目标，其中女性尤甚。
未经同意的色情深度假货盛行
分享的分析有线给出了该现象的程度的想法。在过去的七年里，至少有 244,625 个未经同意的 Deepfake 内容被上传到这个蓬勃发展的行业中 35 个最重要的网站和平台。今年前 9 个月，有 113,000 个视频发送到这些网站，比 2022 年全年增加了 54%。有可能到今年年底，累计上传的视频数量将超过历年。
这些数字并未考虑社交网络或消息传递中分享的深度伪造内容。第一个深度造假视频出现于 2017 年底，研究人员立即担心它会蔓延到未经同意的色情内容。它没有失败。
用于创建令人信服的深度伪造的工具，无论是在线服务还是应用程序，都成倍增加。区分现实与数字操纵变得越来越困难。此外，生成假视频非常简单，只需点击一两次即可。
«这是针对普通人、普通高中生、普通成年人的东西——它已经成为一种日常现象»，Laments 研究员索菲·马多克斯 (Sophie Maddocks)，宾夕法尼亚大学专门研究数字权利和网络性暴力。
法律对深度造假有效吗？
«如果我们能让这些技术更难获得，那将会产生很大的影响。煽动性犯罪不应该需要两秒钟»，她补充道。法律正在准备中，就像法国一样：政府对法律进行了修订斯瑞恩数字空间的监管惩罚未经个人同意而传播由人工智能生成的有关个人的内容，并且没有提及该内容是假的。他们还创造了一种新的罪行“未经他人同意发布具有性特征的超级伪造品（深度伪造品）»。
尽管法律似乎不太可能禁止深度造假设计工具的使用及其传播，但仍有可能减少这种流行病。生成人工智能专家 Henry Ajder 解释说在创建这些视频的过程中添加“摩擦”并发现这些类型的文档可能会减缓其传播。
搜索引擎可能会删除托管和分享这些视频的网站；访问提供商可以完全阻止它们。谷歌最近推出了新工具允许用户请求删除与其相关的不需要的内容。这还不足以彻底结束这些做法，但对于受害者来说，这将是一个良好的开始。
来源 ： 有线
