McAfee高級威脅研究小組的負責人說,他的團隊在練習中使用了生物識別面部識別軟件和共同的人類腐敗,以吸引一個理論上的人,該人在商業客機上列出了一個無飛的花名冊上。
該過程取決於一部不可能的電影,這取決於多個偶然的假設,但是對於麥卡菲的史蒂夫·波維尼(Steve Povolny)來說,這足以呼籲該行業採取新的防守步驟。
在他合著的Povolny的公司博客中寫信網絡安全社區必須創建一個標準,從而導致機器學習系統為其單位所提出的那種生物識別攻擊做好準備。
他寫道,開發人員沒有充分地“考慮到面部識別模型神秘的內部機制中存在的固有的安全缺陷”。
他說,“這可以為網絡罪犯提供獨特的能力來繞過關鍵系統,例如自動護照執法。”
該團隊的目標是查看他們是否可以以護照格式製作對抗性圖像,這會說服面部識別系統,即想像中的無燈名單上的人實際上是人B,這是一個不在名單上的同夥。據報導,該練習成功了。
Povolny寫道,據他所知,他的鍛煉是模型黑客和麵部識別的獨特使用。
他的gambit假設人A在相關的政府系統上沒有數字形象,但B人確實沒有。
人B在實驗中使用自行車框架將人A的圖像轉化為人的形象。
由此產生的圖像看起來像每個人一樣足夠,但足夠不同,以至於自動護照控制系統錄製的人的現場圖像不會帶來一群聯邦執法人員。
數據系統注意到沒有旅行限制的人B的存在。
據波沃尼說,安全代理很可能會發現欺騙。像主要機場那種類型的高級監視可能會在大廳中發現一個人。但是,假設該人A稍後不被任意標記,並且面部識別攝像機會錯過嫌疑人,那麼A當天將飛行。
波沃尼(Povolny)寫道,在其他努力中,像密碼學這樣的其他努力是普遍的做法,可以為在日益嚴重的環境中創建機器學習的可靠性標準。他建議現在是時候為生物識別技術做同樣的事情了。