不久前，深度伪造检测还守卫着互联网的一个小角落，现在已经爆发为一场名副其实的混战，因为欺诈者会发送一连串的信息进入竞技场，刺激了越来越多的生物识别领域的捍卫者的出现。
最新出现在幕后的是DefAI项目，该公司将目光坚定地瞄准了对年龄保证行业构成威胁的深度伪造品。用摔角术语来说，DefAI 是一个“稳定的”：围绕一组共同目标和共同对手团结起来的实体联盟。
运行该项目的名字对于业内任何人来说都是熟悉的部门：英国的年龄检查认证计划（），最近选择运行。，瑞士研究机构，专注于人工智能。年龄验证提供者协会（），代表独立的年龄保证提供者。洛桑的年龄保证供应商，这是该项目的带头人。
根据其网站，该联盟由 Innosuisse 和 Innovate UK 共同资助，旨在“调查年龄验证中演示和注入攻击的危险、可以针对这些攻击建立的可能防御措施，以及行业需要的评估和标准化方法。评估其抵御此类攻击的准备情况。”
法规、GenAI 威胁同步增加，推动检测需求
在电子邮件采访中生物识别更新DefAI 项目发言人 George Billinge 表示，深度造假对生物识别年龄保证技术构成了独特的威胁。
“这个领域之前的工作重点是技术，但不是年龄保证，”他说。 “这个项目借鉴了已经完成的研究深度伪造对面部识别技术的威胁的工作，但针对年龄保证的背景对其进行了调整和开发。”
Billinge，Ofcom 前政策经理，现经营该咨询公司照明科技，指出全球立法激增，以规范在线服务，特别是针对年轻用户的在线服务，同时又不损害他们享有良好在线生活的权利。结合可用于欺诈的人工智能技术的出现和持续发展，需要有效的合规性和客户体验方面的工具都在增加。
DefAI 项目相信（AE）技术是创建“年龄感知”互联网难题的关键部分。由于深度伪造可以被部署为用于规避年龄估计技术的演示或注入攻击，Privately 及其合作伙伴将该问题视为年龄保证行业的生存问题之一。
“检测复杂的攻击，例如 3D 面具、部分或越来越真实的攻击具有挑战性，并对人脸识别系统的可靠性构成严重威胁。”Billinge 说。 “主流文献中的大多数演示攻击检测（PAD）方法都试图解决有限数量的演示攻击工具和可见光谱图像的问题。”
同时，通过劫持数字源，直接向生物识别系统提供伪造信息。 Billinge 表示：“如果可以实时生成攻击，那么活性检测方法可能根本无法应对此类攻击。”他解释说，典型的攻击分类很难推广到注入攻击，而且训练往往不足。
Deepfake 竞赛“一场与不良演员的持续不断的猫鼠游戏”
为了应对这一对他们生计的潜在威胁，DefAI 采取了警惕乐观的态度。 Billinge 表示，这是基于应用于该领域的两个重要假设。一、“没有什么是不可能执行的”。第二，“新的攻击媒介将会出现，它们可以从我们开发的任何防御机制中学习。”
“旨在解决网络危害的解决方案的开发人员一直在与不良行为者进行猫捉老鼠的游戏，试图识别趋势并实时做出反应，”比林格说。 “与此同时，我们必须严格确保我们用于研发活动的数据的来源和处理符合道德规范，符合——同时与在这方面顾忌较少的演员竞争。”
那么，DefAI 旨在深入探讨目前最有可能用于针对生物特征年龄估计技术的攻击媒介是什么类型的问题？找到答案将意味着计算各种攻击的成本，收集已经发生的攻击的证据，并为整体的年龄估计开辟更明确的空间。景观。
该联盟的执行时间并不长：该项目将于 2025 年夏季结束。Billinge 表示，到那时，Privately 应该将先进的演示和注入攻击防御集成到他们的产品中，由 Ididap 提供研究支持，ACCS 评估有效性。最后，AVPA 将制作并与其成员分享一份报告，概述最佳实践和指南应对不断发生的深度伪造攻击。
文章主题
||||||||||
