根据以色列公司建立AI安全措施的以色列公司说,在面部的数字照片中增加了一些计算的噪音,说明了一些面部识别系统。
不利,其商业模式正在说服AI行业的脆弱性,他说,它已经创建了一个新的“黑盒子单枪,隐身,可转移的攻击”。据报道,愚人节被称为对抗性章鱼,面临生物识别的AI模型和API。
实际上,该公司表示可以绕过皮米耶,来自波兰的先进面部生物识别搜索引擎。它声称章鱼是独一无二的,因为它是在Pimeye算法中没有详细背景的。
该公司称,该攻击可用于毒化计算机视觉算法并产生更困难的景点。它声称它不会发行描述攻击的论文,直到其编码人员为客户的AI应用程序完成了防御措施。
章鱼计算神经网络的每一层的变化,并使用随机的面部检测框架,根据对手。对具有蓝色和随机噪声的多个面部识别模型进行了攻击代码。为了掩盖自己,章鱼几乎没有像素更改并平滑对抗性噪音。
辩论可能有多危险。首先,身份验证由一对一的面部识别技术(而不是一对多)主导,从而限制了其潜在影响。
另外,正如虎钳中指出的那样文章在章鱼上,对最先进的AI系统的攻击可能有限。现在说还为时过早。