监管机构对 Deepfake 技术带来的新风险以及同时出现的激增敲响了监管警报。。新的安全措施举例说明各国如何努力应对第一波利用生成人工智能的深度伪造欺诈攻击。但与成熟的生物识别数字 ID 提供商所证实的结果不同，初创公司承诺提供近乎完美的深度伪造检测工具，但事实并非总是如此。
新加坡资助深度伪造检测研究以支持法律
上的一个帖子的博客概述了新加坡应对深度造假威胁的方式 - 专家表示，这种威胁是可怕的。 “如果我们不能再轻易辨别真伪，民主就不可能正常运转，”新加坡国会议员陈武明博士表示。 “如果没有民主话语的这一重要基础，任何政府，无论政治派别如何，都无法有效治理。”他的警告是在最近发生的事件涉及李显龙总理，他的肖像被用来推销投资产品。
Pindrop 的品牌和数字体验主管、作家劳拉·菲茨杰拉德 (Laura Fitzgerald) 表示，政府耗资 2000 万美元的在线安全计划的主要目标是“发展新功能，跟上 Deepfake 的步伐并防止滥用。”她指着网络犯罪危害法人道协调厅 (OCHA) 于 2023 年 7 月通过，要求开展有关深度造假、人工智能和其他数字媒体的公众教育，并可能要求在线服务提供商加强其安全措施。
最后，资金将支持包括在线安全先进技术中心（卡托斯），旨在促进深度伪造检测方面的行业合作和知识交流。技术如和内容认证已被确定为特别感兴趣的领域。
Pindrop 将出席在新加坡举行的 CATOS 年度在线信任与安全 (OTS) 论坛，并在会上展示。
Entrust 提供人工智能威胁摘要，预计 2024 年将增加
在一个博客文章网络安全和身份认证公司该公司支付和身份产品组合总裁托尼·鲍尔 (Tony Ball) 详细介绍了新兴威胁以及欺诈者采用的各种攻击媒介。鲍尔表示，现在孤独的业余爱好者更容易获得执行更具规模和复杂的欺诈所需的技术。
“欺诈者已经开始使用 Deepfakes 来尝试绕过Ball 写道，“这些视频可以预先录制或使用 GPU 和假网络摄像头实时生成，并且通常涉及将一个人的脸部叠加到另一个人的脸部上。” Ball 表示，尝试次数增加了 3,000%2022 年至 2023 年间。他表示，“欺诈即服务”产品的日益普及意味着 2024 年数量可能会增加。“这在数字入职和身份验证领域尤其令人担忧，因为个人身份的完整性至关重要。”
鲍尔还指出网络钓鱼、合成身份和文件伪造如何使情况变得复杂。
他说，“首先要通过可靠的方式阻止欺诈者进入”在任何检测框架中，“入职培训”都是“基本要素”。
委托2024 年 2 月。
初创公司获得合同，但缺乏老牌 PAD 公司的经验
在深度造假恐慌中，谨慎的做法是记住，胡言乱语会向各个方向蔓延，并寻求经验丰富的提供商。 《华盛顿邮报》报道称，承诺提供有效服务的公司激增。深度造假检测——就兑现承诺而言，这些机构本身可能相当脆弱。
“由于担心合成媒体可能扰乱选举并威胁国家安全，国会、军方和媒体等机构都在拼命寻找可靠的技术解决方案来识别虚假内容，”尼塔莎·蒂库和塔图姆·亨特的文章表示。它指向加州的初创公司深媒体自 2022 年底以来，该公司已经赢得了“至少五份价值近 200 万美元的军事合同”，尽管该公司显然是一家简陋的公司，最初是一家基于人工智能的合成媒体生成器，现在拥有一名机器学习工程师，而且还面临着针对它的诉讼。文章中提到的其他公司包括 Originality.ai、AI Voice Detector、GPT零和克鲁普人工智能。 《华盛顿邮报》称，现在大约有 40 家公司提供 Deepfake 检测服务，其中许多公司声称他们的软件提供了近乎完美的结果。
《华盛顿邮报》的报告中没有提到由具有演示攻击检测（PAD）背景的开发人员提供的相对成熟的深度伪造检测工具。,,以及许多其他公司都在提供基于标准的身份安全工具方面拥有良好的记录。但旧金山湾的耀眼光芒可能会让人眼花缭乱，即使对于军事和情报机构来说也是如此。
OpenAI 让深度伪造成为可能，现在可以帮助检测它们
一家备受瞩目的硅谷公司也参与了 Deepfake 检测抽奖活动。这纽约时报报道称正在推出一款“旨在检测由其自己的流行图像生成器 DALL-E 创建的内容”的工具。虽然该公司声称该工具在检测 DALL-E 内容方面的准确率高达 98.8%，但它并非旨在检测使用其他基于人工智能的图像生成器制作的图像。
然而，警告说，尽管世界尚未做好充分准备来应对人工智能将带来的影响，但其主要推动者之一也在寻求其他方法来减轻其影响。 OpenAI 正在加入指导委员会内容来源和真实性联盟，或 C2PA，《纽约时报》称其为“图像、视频、音频剪辑和其他文件提供了一种‘营养标签’，显示它们的制作或更改时间和方式。”它还在探索水印的潜力。
《泰晤士报》援引了最近发生的音频和视频内容被用来试图影响他人的事件斯洛伐克、台湾和印度。 2024 年下半年，美国、英国和欧盟将进行投票，每一次投票都可能产生重大的社会政治后果。
用于检测音频深度伪造的麦克风
最后，亚利桑那州立大学的一组研究人员开发了一种麦克风原型，可以将录音验证为人类语音。科金正中报告麦克风识别录音中与人类语音相关的生物信号，然后添加水印以将录音标记为真实的。
文章主题
||||||||
