通常，在讨论使用生成AI工具创建的深层蛋糕所带来的风险时，警告是关于您如何被假老板或政治家欺骗的。但是可以说，一个更大而险恶的威胁是身份盗用 - 也就是说，当您是深击时会发生什么。虽然骗局电话可以空存储银行帐户，但深击在色情，暴力或羞辱的内容中使用一个人的形象可能会留下更深的心理伤痕，尤其是对于女性而言。
一个新文章从艾达·洛夫拉斯学院（Ada Lovelace Institute）来看，从文化和社会的角度看深击，而不是仅仅是一种财务威胁。
朱莉娅·萨克曼（Julia Smakman）写道：“ 2024年7月，西班牙少年在产生了同学的裸露之后被缓刑。” “据报道，这些描绘的女孩遭受焦虑发作的痛苦，并害怕挺身而出，担心他们会被指责为这些图像。在韩国，少女是针对的。DeepFake图像并描述了类似的痛苦。”
这个问题已经很糟糕了，它将变得更糟。 Smakman援引了不可思议的山谷，指出当今一代深击的局限性和赠品。 “到目前为止，这些技术障碍为防止完全数字模拟提供了薄薄的保护层。”
为了搭配奇特的山谷线程，如果当前的深击是我们的Polar Express - 早期尝试利用创建真实化身的技术，那么新技术将使Deepfakes与当今最好的CGI技术相提并论。 “AI生成的视频Smakman指出：“ 2024年12月，Google偷偷窥视了其新型号我懂了显示它已经在短视频上表现出色。该演示可以瞥见不久的将来，在这种情况下，对普通人几乎不可能区分真实的视频和人造视频。”
“你不应该控制自己的出现吗？”
考虑到多少互联网色情，几乎不需要想象力就可以看到自己的脸在视频中如何偷走和令人信服地放在另一个身体上，这可能会对年轻女性造成灾难性的后果。 2019年报告据估计，在网上所有Deepfakes中有96％是色情的，而99％的女性涉及不同意使用相似性的女性。
Smakman写道：“随着AI高级视频的产生，Deepfake色情制品的危害将从静态图像发展到无法区分的视频'证据'的私密时刻的证据，从未发生过，从而造成了持久的心理创伤和声誉损害。” “如果历史有什么需要的，这将不成比例地伤害妇女和女孩。”
考虑如何将非自愿图像用于勒索。或者如何增强“复仇色情”和儿童性虐待材料的演变。不良演员通常的移动速度要比那些建筑防御和制定法规的速度快得多。这导致了Smakman所说的“目前的保障措施完全不足”。
读者生物识别更新将知道目前正在付出多少努力Deepfake威胁。但是Smakman指出，迄今为止的解决方案做得非常薄弱，尤其是在控制自己的模型时。 “即使拥有大量资源和公众对安全的承诺，微软等科技巨头也无法防止产生泰勒·斯威夫特（Taylor Swift）深击通过自己的模型。”
她同时说：“目前的法律和政策工具不足以保护人们免受影响其尊严的危害。尽管世界各地的政府已经开始关注深层，但他们仍然缺乏法规，有效控制它们的权利和机制。”
Smakman说，为武器化提供足够的防御能力合成媒体危害技术意味着要在两个关键问题上采取快速行动。首先，开发人员应限制其系统的可用性，并向他们提供“仅在适当使用的特定条件下批准的企业，例如负责的AI许可实践。”
“总的来说，技术公司应限制模型的发布及其生成人员视频的能力，直到监管机构和外部审计师为滥用并验证其充分性而建立了保障措施。”
其次，“一旦建立了这些保障措施并被证明是可靠和有效的，决策者应向科技公司施加压力才能发布模型。”
拟议的解决方案不会激发极大的信心。它一次又一次地展示了行业以自我规范的情况，以及有casoders硅谷的胃口特别是对规模的胃口。 Smakman承认她的答案是不完美的。 “但是它们是使科技行业负责并减轻AI视频发电带来的大量风险的步骤。”
研究人员发现，在网上未受保护的大量deepfake“裸体”图像
对于那些认为风险被夸大的人：VPNMentor报告调查网络安全研究员耶利米·福勒（Jeremiah Fowler）违反了一个非通信的数据库，该数据库包含AI-NOMIS属于Gennomis的93,485张图像和.JSON文件 - “韩国的AI公司，总部位于韩国的AI公司，可提供面部交换，并提供成人内容以及可以购买或出售的图像。”
文章说47.8 GB数据库未受到密码保护或加密，其中包括“许多色情图像，包括似乎令人不安的年轻人的刻画”和“包括儿童的名人的形象，包括阿丽亚娜·格兰德（Ariana Grande），卡戴珊（Kardashians），碧昂丝（Kardashians），碧昂丝（Beyoncé），米歇尔·奥巴马（Michelle Obama），克里斯汀·斯图尔特（Kristen Stewart）等。”几乎所有图像都是明确的，并描绘了成人内容。
Gennomis是一个工具的一个很好的例子，其开发人员在询问时不太可能行使礼貌。该平台使文本对图像提示可以创建不受限制的图像，AI角色，面部交换图像还有更多。它支持45多种不同的艺术风格，包括现实，动漫，卡通，复古和赛博朋克，“允许用户根据特定的美学偏好量身定制其图像创作。”
福勒说，尽管他没有看到任何个人识别信息（PII）或用户数据，但“这是对用户可能滥用这项技术的警钟，以及开发人员必须如何做更多的事情来保护自己和他人。数据泄露就不受限制的图像产生进行了更大的对话。”
持有犯罪者责任将提供指导牙齿：福勒
几乎不只是gennomis提供的AI图像发生器从文本提示中创建色情图像。有很多网站提供“裸体”服务，这些服务在性明确的情况下产生了人们的图像。福勒说：“任何提供能够在没有个人知识和同意的情况下面对s缩图像或身体的服务都会构成严重的隐私，道德和法律风险。这些图像可能是高度现实的，并且可能会羞辱个人在不同意的情况下以这种方式描绘的个人。”
福勒将其称为“野外西方”Deepfake调节这是一款高风险的游戏，其中芯片是人类的声誉，有时甚至是生活。他指出，有很多案例表明，个人和年轻人因跨越尝试而自杀。
急需更强的检测机制和严格的验证要求。福勒写道：“在一个完美的世界中，人工智能提供商应该拥有严格的护栏和保护措施，以防止滥用。”再次押注了弱希望，那些制作“裸体”应用程序的人担心滥用，而不是依靠它。 “确定肇事者并让他们对他们创建的内容负责，这应该使服务提供商快速消除有害内容。”
法律正在移动，即使不够快。美国“击倒行为”，”旨在将非同意亲密图像的分布定为定为定为犯罪，已经通过了参议院，并正在等待众议院的行动。 “ 2024年10月，韩国法院将十年徒刑的徒刑判处犯罪犯罪的肇事者。2025年3月，美国的一名老师因使用人工智能制作学生的假期色情视频而被捕。”福勒（Fowler）看到该行业趋向于更有效地执行可能已经存在的准则，但只是为了装饰。
“至少在纸上，严格禁止儿童和任何其他非法活动的明确图像。准则还指出，发布此类内容将立即终止帐户终止和潜在的法律行动。”
在这种情况下，Gennomis似乎自愿离开了。福勒（Fowler）发出负责任的披露通知几天后，Gennomis和AI-NoMis的网站脱机并删除了数据库。
政府唤醒了深层威胁的程度
新泽西州州长办公室的释放宣布签署A3540/S2544这项法律“为欺骗性音频或视觉媒体的生产和传播（通常被称为“深击”的生产和传播）“建立民事和刑事处罚。”
该法律将“制作或分发欺骗性的音频或视觉媒体促进额外的犯罪活动”归类为第三级犯罪，但仍被监禁和最高30,000美元的罚款。
州长菲尔·墨菲（Phil Murphy）说：“人工智能事实证明，它是一种强大的工具，必须负责任地使用它。我的政府专注于打击错误信息和确保媒体完整性。我们与Deepfake图像的受害者站在一起，并将继续优先考虑所有新泽西人的安全和福祉。”
签名也存在弗朗西斯卡·玛尼（Francesca Mani），一个高中生的同龄人创造并共享了她的明确AI生成的图像，促使她成为AI监管的倡导者。参议院，新泽西州反对性侵犯联盟（NJCASA）和新泽西理工学院的代表也表示支持。
本周，在密西西比州就职大学的一项就职大学中，深层餐厅也是前列和中心。发布说乔丹新闻倡导与创新中心主持了首张活动，“解决社交媒体和人工智能对民主的影响”，召集了顶级记者，研究人员和商业领袖，讨论审查制度，媒体素养，道德和AI与美国法律的交集。
新闻学院和新媒体学院院长安德里亚·希克森（Andrea Hickerson）说，尽管这次活动召集了有不同政治意见的人们，“我们都可以同意谎言是不好的。”
