欧洲网络周即将在雷恩、布列塔尼和留下了一个新的元模型来检测人工智能生成的图像。
这家法国公司接受了法国国防创新局 (AID) 组织的一项挑战，要求公司检测由 Midjourney、DALL-E 和 Firefly 等人工智能平台创建的图像。根据发布的消息，泰雷兹人工智能加速器 cortAIx 的团队利用这个机会开发了一种能够检测。
元模型是模型的聚合，每个模型都会为图像分配真实性分数，以将其分类为真实或。机器学习技术、决策树以及每个模型优缺点的评估都会影响真实性分析。
聚合模型包括对比语言图像预训练（CLIP）方法，该方法将图像与文本描述进行比较以发现不一致之处；扩散噪声特征 (DFN) 方法，该方法使用扩散模型基于对在图像中引起“幻觉”所需的噪声量的估计；离散余弦变换 (DCT)，它分析图像中的空间频率以检测隐藏的伪影。
人工智能高级专家兼 cortAIx 首席技术官 Christophe Meyer 表示：“使用神经网络、噪声检测和空间频率分析聚合多种方法，有助于我们更好地保护越来越多的解决方案”。
泰雷兹加速器 cortAIx 拥有 600 多名人工智能研究人员和工程师，在蒙特利尔和巴黎设有设施。
Deepfake 检测来自浏览器内部：Surf
深度伪造检测的新方法日益涌现。冲浪安全提供“零信任浏览器”，已启动测试版运行，让客户测试其神经网络驱动的检测浏览器集成。
一份新闻稿称，Deepwater Deepfake 检测器工具内置于 Surf Security Enterprise 零信任浏览器中，“可以以高达 98% 的准确度检测与您交互的人是真人还是 AI 模仿者，提醒用户潜在的潜在威胁”。几秒钟之内。”
这家总部位于英国和美国的公司引用的研究表明，“美国的深度造假诈骗同比增长了 303%，在葡萄牙（1700%）、中国（2800%）等国家甚至更快。 ）、新加坡（1100%）以及无数其他国家。”
考虑到深度赝品的新颖程度以及它们的制造变得简单且廉价的速度有多快，这种增长并不令人意外。风险是广泛且多方面的：犯罪团伙利用深度造假进行信任诈骗；放荡但合成的小贩引诱受害者;名誉损害；数据丢失；与监管机构发生冲突。在家工作的趋势和 SaaS 平台推动了更大的需求。
Surf 使用“军用级”AI Deepfake 检测，让用户只需单击按钮即可验证音频。它适用于浏览器内的任何音频源，包括在线视频或通信软件，例如 Slack、Zoom、Google Chat、Microsoft Teams 和 WhatsApp。
该系统基于新兴技术，例如状态空间模型，它可以“通过对音频帧之间的概率关系进行建模来检测跨语言和口音的深度伪造，以显示不一致之处。”其神经网络接受了使用顶级人工智能创建的深度伪造品的训练平台具有集成的背景降噪功能，可在处理前清理音频，并可以在不到两秒的时间内做出决定。
Surf Security 首席技术官 Ziv Yankowitz 表示，Deepwater 深度造假探测器是“第一个真正可用的实时深度造假防御系统”。 Surf 正计划整合将来。
Reality Defender 获得博思艾伦风险投资公司的财务支持
Deepfake 检测公司发布的一份新闻稿称是博思艾伦风险投资有限责任公司“战略投资”的受益者，博思艾伦风险投资有限责任公司是军事情报承包商的企业风险投资部门博思艾伦汉密尔顿。
“博思艾伦在人工智能安全领域的领导地位以及在支持关键任务方面的深厚专业知识将使 Reality Defender 在确保通信安全的同时扩大我们的影响力是最重要的，”Reality Defender 首席执行官 Ben Colman 说道。
博思艾伦为美国联邦政府提供人工智能和网络安全服务。其人工智能安全主管马特·基廷（Matt Keating）表示：“复杂的人工智能模型越来越多地被用来操纵和欺骗，构成了从战场和研究实验室到和全国各地的社区。为了应对这些威胁，我们需要工具来验证和保护多模式内容，例如视频、图像、录音和电话。 Reality Defender 满足了这一需求。”
对于博思艾伦来说，这项投资是更大投资组合的一部分，该投资组合还包括军民两用商业技术，例如（负责任的人工智能）、HiddenLayer（安全人工智能）、LatentAI（人工智能数据压缩）等。
文章主题
|||||||
