要知道什么
- 旧金山正在对 16 个人工智能驱动的“脱衣”网站采取法律行动。
- 这些网站在未经同意的情况下制作妇女和儿童的裸体图像。
- 该诉讼旨在关闭这些网站并追究运营商的责任。
为了打击数字剥削，旧金山市检察官正在严厉打击使用人工智能创建虚假裸体图像的网站。邱大卫宣布诉讼针对16个引发争议和关注的热门“AI脱衣”平台。
这些网站允许用户上传穿着衣服的人的照片，然后在未经同意的情况下使用人工智能生成逼真的裸体版本。该技术被滥用来创建成人和未成年人的露骨图像，引发了严重的道德和法律问题。
据邱办公室称，今年短短六个月内，目标网站的访问量就超过了 2 亿次。这个惊人的数字凸显了该问题的广泛性。
该诉讼指控网站运营商违反了多项法律，包括禁止深度伪造色情内容、报复色情内容和剥削儿童的法律。它寻求关闭这些平台并处以巨额罚款。
邱对妇女和女孩遭受的剥削表示恐惧，陈述在 X 上：
这项调查将我们带到了互联网最黑暗的角落，我对那些不得不忍受这种剥削的妇女和女孩感到非常震惊。
这是一个大的、多方面的问题，我们作为一个社会需要尽快解决。
— 大卫·邱 (@DavidChiu)2024 年 8 月 15 日
这项法律行动是在人们对人工智能生成的深度伪造品日益关注之际采取的。网上流传的泰勒·斯威夫特的假裸照等备受瞩目的案件引起了人们对这一问题的关注。然而，无数普通人也成为了这项技术的受害者。
一令人不安的事件涉及 AI 生成的加州 16 名中学生的裸体图像。这些案例展示了如何将这项技术用于欺凌和骚扰，尤其是针对年轻人的欺凌和骚扰。
深度伪造色情内容对受害者的心理健康、声誉和未来前景构成巨大风险。一旦这些图像开始在网上传播，追踪这些图像来源的问题就会变得更加复杂。
旧金山的诉讼代表着在打击滥用人工智能来创建未经同意的亲密图像方面迈出的重要一步。该案还体现了人工智能技术的快速进步与难以跟上步伐的法律和道德框架之间的巨大差距。
该市的行动可能为其他司法管辖区如何应对这一日益严重的威胁树立先例。它还发出了一个明确的信息，即未经同意的深度伪造品的创建和传播是不会被容忍的。
随着这场法律战的展开，突显了在快速发展的人工智能领域迫切需要全面的监管和道德准则。
