McAfee高级威胁研究小组的负责人说,他的团队在练习中使用了生物识别面部识别软件和共同的人类腐败,以吸引一个理论上的人,该人在商业客机上列出了一个无飞的花名册上。
该过程取决于一部不可能的电影,这取决于多个偶然的假设,但是对于麦卡菲的史蒂夫·波维尼(Steve Povolny)来说,这足以呼吁该行业采取新的防守步骤。
在他合着的Povolny的公司博客中写信网络安全社区必须创建一个标准,从而导致机器学习系统为其单位所提出的那种生物识别攻击做好准备。
他写道,开发人员没有充分地“考虑到面部识别模型神秘的内部机制中存在的固有的安全缺陷”。
他说,“这可以为网络罪犯提供独特的能力来绕过关键系统,例如自动护照执法。”
该团队的目标是查看他们是否可以以护照格式制作对抗性图像,这会说服面部识别系统,即想象中的无灯名单上的人实际上是人B,这是一个不在名单上的同伙。据报道,该练习成功了。
Povolny写道,据他所知,他的锻炼是模型黑客和面部识别的独特使用。
他的gambit假设人A在相关的政府系统上没有数字形象,但B人确实没有。
人B在实验中使用自行车框架将人A的图像转化为人的形象。
由此产生的图像看起来像每个人一样足够,但足够不同,以至于自动护照控制系统录制的人的现场图像不会带来一群联邦执法人员。
数据系统注意到没有旅行限制的人B的存在。
据波沃尼说,安全代理很可能会发现欺骗。像主要机场那种类型的高级监视可能会在大厅中发现一个人。但是,假设该人A稍后不被任意标记,并且面部识别摄像机会错过嫌疑人,那么A当天将飞行。
波沃尼(Povolny)写道,在其他努力中,像密码学这样的其他努力是普遍的做法,可以为在日益严重的环境中创建机器学习的可靠性标准。他建议现在是时候为生物识别技术做同样的事情了。