美国歌手泰勒·斯威夫特 (Taylor Swift) 是色情 Deepfake 的受害者：上周，在该平台采取第一步行动之前，人工智能生成的以她为主角的性爱图像在埃隆·马斯克 (Elon Musk) 的社交网络 X 上大量传播，持续了几个小时。以下是您需要记住的四点。
这是第一次色情深度伪造粉丝和政界人士对此也有很多评论：上周，由人工智能生成的歌手泰勒·斯威夫特的性爱图像在埃隆·马斯克的社交网络 X 上大量传播。该平台将在 17 小时内做出反应，然后采取一项不寻常的措施：暂时阻止在平台上搜索泰勒·斯威夫特 (Taylor Swift) 的名字。
由人工智能从头开始创建的泰勒·斯威夫特（Taylor Swift）色情图片的传播并不令人意外。这位被《时代》周刊评为2023年度人物的美国人已经成为了受害者。但自从面向公众推出人工智能工具以来，许多人敲响了警钟。去年三月，一位社论作者监护人写道：问题不是我们是否会出现色情深度假货，而是何时我们会出现色情深度假货。她本可以补充道：问题不是我们是否会看到，而是我们何时会看到社交网络努力应对色情深度假货的扩散。
1. 一张人工智能生成的图像在被停止之前被浏览了 4700 万次
因为就是这样。 2024年1月下旬，标志性案件发生了。据报道，上周，人工智能生成的几张以歌手泰勒·斯威夫特为主角的色情图片在 Telegram 上发布，然后最终出现在 X 上 404媒体。 与迄今为止观察到的情况相反，这些深度伪造的作者并没有将泰勒·斯威夫特的脸放在X级电影女演员的脸上，他们本来会使用免费的微软工具，但这些工具的用途已被转移到制作来自A的图像。我们的同事向 Z 解释道。
这些图片在几个小时内流传，直到其中一张图片的浏览量达到 4,700 万次，分享次数达到 24,000 次。 “Taylor Swift AI”随后成为该平台的主要话题。随后，她的粉丝群体进行了反击，大量发布了这位歌手的真实视频，从而使色情图片被淹没在海量之中。
2. X 反应……17 小时后
直到17个小时后，X才终于反应过来。平台一般使用条件明确禁止“经人为修改、可能误导他人的内容”。但整个问题在于这些规则的应用。因为一方面，平台具有主办方的地位。它对其用户发布的内容不承担任何责任，并受到言论自由原则的保护。但另一方面，该平台应该删除违反其一般条件并已被举报的内容。问题在于它与这些图像有关。
周五，该社交网络开始删除首先分发这些图像的帐户。第二天，他采取了一个不寻常的步骤：屏蔽与这位歌手有关的搜索。如果您在社交网络上搜索此内容，您将收到以下消息：“发生错误。尝试重新加载页面 »。这项被描述为“临时”的措施是为了避免有争议的图像传播。现在，他们有点难找到了，这位记者解释道 福布斯，它批评了 X 试图解决问题的方式。同样的故事也出现在 可混搭。 «让 Swift 的名字无法追踪表明 X 不知道如何处理其平台上大量的伪造图像和视频», 写给我们的同事。
上周五，X已经在平台上宣称“我X 严格禁止发布未经同意的裸露图像，我们对此类内容采取零容忍政策。我们的团队积极删除所有已识别的图像，并对发布这些图像的帐户采取适当的行动”。该社交网络还宣布已聘请专门负责打击儿童色情制品的版主，该版主将驻扎在德克萨斯州奥斯汀。
https://twitter.com/Safety/status/1750765055380263272?ref_src=twsrc%5Etfw
3.白宫介入
此案引发了白宫的反应，白宫表示对这些虚假图像的传播感到震惊。发言人卡琳·让-皮埃尔 (Karine Jean-Pierre) 回忆说，社交网络必须审核其平台上播放的内容。“可悲的是，我们常常知道，缺乏执法会对妇女和女童产生不成比例的影响，她们是网络骚扰的主要目标”，她补充道。后者提醒了社交网络的责任，社交网络有“在执行自己的规则以防止此类错误信息的传播方面可以发挥重要作用»。 «正在发生的事情非常令人震惊。因此，我们将尽我们所能来解决这个问题。“，她补充道。
https://twitter.com/PressSec/status/1751012521589313808
这个问题能否通过一项解决社交媒体上人工智能滥用问题的法律来解决？这是民主党国会议员约瑟夫·莫雷尔的想法，他的法案《防止亲密图像深度造假法案》目前正在众议院司法委员会讨论。因为在美国，联邦层面没有任何法律禁止这种由人工智能生成的虚假视频或图像。约瑟夫·莫雷尔希望填补这个空白，他想要“的未经当事人同意，分享经过数字修改的色情图像”，一项联邦犯罪，可判处监禁和罚款。他还希望受害者能够将肇事者绳之以法。
对于在他的 X 账户上发言的政客来说，“泰勒·斯威夫特 (Taylor Swift) 的人工智能生成的露骨图像的传播令人震惊——可悲的是，这种情况每天都发生在世界各地的女性身上……”。事实上，明星并不是此类形象的唯一受害者。
4.“匿名”人士也是色情深度假货的受害者
去年十月，新泽西州的一所高中连续几天成为头条新闻。青少年用人工智能生成了他们（女）同学的裸体版本。一名受害者的母亲解释说，这是一场可能永远不会结束的真正的噩梦：“我很害怕这件事会如何浮出水面。我女儿有一个光明的未来，没有人能保证这不会影响她的工作、学业或社交生活»，她感叹道。
这种情况远不仅限于美国。去年 9 月，在西班牙，大约 30 名 11 至 17 岁的年轻女孩也成为深度造假的受害者：据报道，年轻人在社交网络上传播自己的裸照。英国广播公司。在法国，这种情况是可能发生的。但 ” 我们在民事和刑事层面都拥有相当发达的法律武器库»，回忆Arnaud Touati，公司合伙人话题标签倡导者接受采访01网。
最近，旨在保护和监管数字空间的法律（SREN）对这些措施进行了补充。现在，传播色情深度伪造品将被处以最高两年监禁并罚款 60,000 欧元。 “此外，我们还制造了一种加重情节的情况”，阿诺·图阿蒂 (Arnaud Touati) 强调：“如果该出版物发生在在线公共通信服务（例如社交网络，编者注）上，则该罪行将被判处三年监禁和 75,000 欧元的罚款。”
