Deepfakes 是主题当日的生物识别和身份验证行业越来越多地参与全球检测深度造假并防止其对个人和社会结构造成严重伤害的努力。会议召集多位行业和政府专家，检测 Deepfakes 峰会是最新的论坛，可深入了解，以及世界如何做好充分准备应对威胁。
“这是一个非常困难的问题，”小组成员、执行董事凯·肖帕德 (Kay Chopard) 说道。。这个问题是全球性的，涉及方方面面，从法院和有组织犯罪世界到好莱坞明星，再到受虐待者侵害的妇女和儿童的网络生活。
监管机构、研究人员和私营公司正在努力遏制有害物质的传播。但通常情况下，深度造假只需要在短时间内分享即可传播给许多人，即使在被删除后，其影响也会产生反响。与此同时，标准和立法落后于生成人工智能和其他用于创建更复杂的深度赝品的工具的技术发展。
“我们确实必须想办法走到一起，”萧邦说。 “我们必须找到达成一致的方法。”
在像深度造假滥用这样复杂且动态的话题上达成共识是很困难的。专门用于国防和国防的资金和资源与犯罪方面的投资不成比例。随着日常生活中出现的深度造假的上升曲线上升，而随之而来的监管曲线倾斜得更加缓慢，问题只会变得更加紧迫。
幸存者的声音强调了 Deepfake 威胁的严重性
乔迪·莱德姆避难所，该组织帮助遭受家庭虐待的妇女，阐述了“”。像教皇穿着羽绒服的照片这样病毒式传播的例子可能被认为是无害的。但是，Leedham 说，“96% 的深度造假都是色情内容。”一些研究表明几乎所有这些描绘女性。也就是说，深度造假尤其是对妇女权利的威胁。 “我们无法逃避或回避这样一个事实：我们将其视为一个性别问题。”
托管深度假货的平台通常会让受害者很难删除剥削性内容。利德姆说，当时间至关重要时，这是一个特殊的问题。深度假货可以迅速传播，即使是极少的曝光也会对幸存者的心理健康、声誉和网络生活造成损害。那时，“马已经离开了谷仓。”
杰西·罗斯·史密斯英国通信管理局表示，英国通信监管机构注意到公众对深度造假的担忧与日俱增，例如。但是，它“也注意到，虽然许多知名案例都是以公众人物为主角，但深度造假已经开始对普通人造成严重伤害”——主要是露骨的色情内容。
大规模 Deepfake 内容审核是“重大问题”
时间的关键问题也适用于更广泛的社会背景，例如。阿米·库马尔，他的公司轨迹.ai参与最近印度选举的研究人员指出，由于许多年轻选民从社交媒体获取新闻，深度造假已成为一个更大的政治问题。此外，深度造假即服务的激增正在形成规模，而通过节制措施，假冒内容的泛滥正在泛滥。
“大规模深度伪造的内容审核是一个非常非常大的问题，”他说。 “因为一旦文件被消耗，影响就已经产生了。这个想法的种子已经到达你的脑海中。”甚至库马尔说，这些在印度大选前就被揭穿的事实“在印度大部分地区仍然是一个话题。其影响至今仍然存在。”
检测必须在深度伪造到达数十万只眼睛之前进行，“几乎在用户上传它的水平上”。然而，虽然公共内容平台可以监管深度伪造内容的共享，但加密的私人通讯应用程序却是另一回事。
捍卫年龄保证技术的完整性
与模仿或生成人脸生物识别技术的 Deepfake 相结合，人工智能语音代理和其他技术也带来了威胁。。凯·肖帕德 (Kay Chopard) 指出，所谓的“祖父母电话”越来越盛行，即利用声音克隆来骗取老年人的钱财。
随着时间的推移，深度伪造生态系统的多样性和复杂性将会增加，其盈利能力也会增加。 Ofcom 制定了深度伪造品的三重分类法，将其分为以下几类：。罗斯史密斯表示，有组织犯罪是利润日益丰厚的深度造假欺诈的一个特别强大的推动因素，但任何人使用所谓的“裸体”应用程序创建露骨的深度造假已经变得更加容易。
与此同时，年龄验证提供商协会的 Iain Corby（）指出，虽然大多数人将年龄保障与让儿童远离受限空间的工作联系在一起，但它也有相反的目的：确保成年人不会假装成儿童来引诱孩子上网。
这种深度造假威胁的严重性促使 AVPA 推出 Project DefAI，这是由 InnovateUK 和 Innosuisse 资助的英国/瑞士联合项目，该项目还涉及 IDIAP 研究实验室、年龄检查认证计划和瑞士公司 Privately。作为代表行业的行业机构Corby 说：“整个行业能够抵御这项新技术发起的攻击，这对我们来说至关重要。”
新兴的人工智能法律在深度造假问题上参差不齐
立法和标准的制定总是慢于创新，但人们一直在努力尝试为深度造假经济设置法律障碍。赫特福德郡大学研究员费利佩·罗梅罗-莫雷诺 (Felipe Romero-Moreno) 小组成员总结了一些主要举措及其要求。
这2023 年英国在线安全法案， 这我已经采取行动、美国 Deepfake 工作组和选定的国家级项目对平台都有不同的责任门槛，其中《人工智能法案》对识别和删除 Deepfake 内容的要求最为严格。
在某些方面，通用数据保护条例通过个人信息（特别是应用于训练数据时）提供针对深度伪造的保护。但它还不够全面或具体，不足以成为关键的法律工具，而且数据保护立法总体上仍然没有适当调整以应对深度造假威胁。
威胁的全球性质需要跨境努力
小组成员的一个共同主题是协作的必要性。这萧邦说，它的范围比我们想象的更广泛； “这需要大量的跨境工作，每个人都需要更有创意地思考”才能解决这个问题。研究人员、政策制定者、教育工作者和私营企业都可以发挥作用。尽管个人干预措施可能很脆弱，但预防、嵌入、检测、执行的结合可能是有效的。
然而，存在着巨大的问题，每个问题都会带来新的道德问题——而且辩护没有暂停的机会。专家们就如何留在竞争中提出了建议，从简化流程到增加投资，再到为该领域的不同参与者提供激励。创新正在发生。但没有灵丹妙药。
库马尔认为，由于传统上将公认事实与邪恶小说（即传统媒体）进行分类的系统已被破坏，并且深度伪造品不断快速而猛烈地充斥网络空间，因此需要立即密切关注这种情况。尽管乔迪·利德姆 (Jodi Leedham) 提出了一个深刻的哲学问题，但“如果我们回想十年前，我们是否设想过技术将引领我们走向何方？” – 事实是，我们在这里。我们需要帮助。
“有些事情是可以做的，”凯·萧邦 (Kay Chopard) 说道。 “只有人们愿意接受挑战，才能带来改变。”
文章主题
||||||
