性掠夺者正在利用生成人工智能技术在论坛上分享儿童性虐待的虚假视频。他们还交换规避人工智能安全措施的技巧，或者更好地诱骗受害者。目前，几乎没有什么保障措施来限制这种做法。
当技术被滥用：一个美国非政府组织国家失踪和受虐儿童中心（法语：国家失踪和受虐儿童中心）警告说，针对未成年人的性掠夺者也诉诸于人工智能（人工智能）生成。后者将使用图像和文本生成工具来实现其目的。在某些论坛上，我们现在发现描述个人资料的脚本可以更容易地获得未成年人的信任。虚假图像针对儿童的性暴力报告称，人工智能生成的内容将在那里成倍增加，而摆脱生成式人工智能（如果存在）的控制的建议也会成倍增加。彭博社，5 月 24 日星期三。
虽然其中一些不道德行为目前不一定是非法的，但它们具有扩大儿童色情图像传播的效果。它们还增加了儿童被儿童罪犯困住的情况。问题：人工智能用户的行为，无论是免费还是付费访问，都是难以控制的。
人工智能生成的儿童色情内容很快就会泛滥吗？
不过，保障措施已经到位。开发这些图像生成人工智能的公司已在上游采取安全措施，以便用户无法使用其工具生成暴力或色情图像。他们的手段是：阻止关键字以避免生成此类内容，就像 Stable Diffusion 或 Dall-E 所做的那样。但通过使用黑名单单词以外的表达方式，或者使用英语以外的语言，很容易绕过这些审核工具。 ActiveFence（一家专门从事内容审核的初创公司）的经理之一 Avi Jager 在接受我们的同事采访时表示，这些技巧将在论坛上分享。而其他人工智能根本不会限制他们的提示。捍卫儿童权利的非政府组织担心，这些工具的使用最终会在网上造成此类内容的泛滥。
这样一来，就很难将人工智能生成的内容与针对儿童的性侵犯的真实图像区分开来。风险在于执法人员会浪费宝贵的时间试图区分事实与虚构。
AI即将大规模用于针对矿工？
这些虚假图像的扩散并不是唯一的问题。人工智能还将使性掠夺者更加尝试接近潜在的受害者。接受我们的同事采访，法务总监国家失踪和受虐儿童中心Yiotas Souras 解释说，有些共享由 AI 生成的脚本。我们可以通过阅读虚构人物的描述来获取未成年人的信任，以便更好地诱骗他们。而且这种现象还仅仅处于起步阶段。 “我们正处于新事物的黎明。一切才刚刚开始»，她向我们的同事解释道。
英吉利海峡对岸也充满担忧。英国反对技术性侵犯组织 EndTab 的创始人亚当·道奇 (Adam Dodge) 也担心人工智能最终可能会大规模用于针对未成年人。提问者泰晤士报,5月21日，协会经理回忆道，这些AI工具非常有说服力。 “如果我创建一个掠夺者的人工智能克隆（……）并训练该机器人大规模地在线识别弱势儿童并与其进行交流[……]，那么该机器人可以一次针对 10,000 名儿童。»，他很震惊。
这家美国非政府组织解释说，它正在与立法者讨论，以评估新法规如何限制人工智能的使用，因为人工智能会危及未成年人并传播儿童色情图片。解释说，在美国，生成此类内容本身并不违法彭博社。关于人工生成儿童性虐待图像的投诉也已提出。
来源 ： 彭博社
