一家以色列AI安全諮詢公司說,計算機視覺是人工智能最脆弱的方面,總體而言,它在全球強度上都受到攻擊。
這種見解是Eversa的一份自發布報告的一部分,該報告發現從2010年到2020年,對AI防禦和對策的研究大幅增加。
該時期的最後兩年發表的政府,學術和行業研究論文的數量達到3500,更多,更多,根據報告,比過去20年中發表的所有文章。
假設其中一些激增解決了計算機視覺漏洞,則可能是及時的。
Adversa寫道,目標計算機視覺的涉及AI的漏洞中有65%。包括面部識別和其他生物識別技術的視覺是AI眾多後代中最不發展的視力,這並非偶然。
最受歡迎的AI應用程序是圖像分類為43%。第二是面部識別(7%)。對象檢測進一步降低,佔攻擊的百分之三。
根據Eversa的說法,第二個目標應用程序是分析(18%)和語言(13%)。可以說,這三個是現在的AI市場。
不過,有很多擔心要散佈。該報告發現,所有60個最常見的機器學習模型都“至少容易出現一個脆弱性”。
(儘管沒有理由懷疑Eversa的發現,但該報告是公司營銷工作的一部分。此外,該報告的相當一部分是基於“我們團隊的專家意見”的基礎。更多的硬統計數據將提出更強有力的案例。)
駭客主要是由操縱AI行為的願望的動機。可以預見的是,有些人想知道算法是如何工作的。其他人則想竊取數據或感染模型和數據集。
現在對犯罪分子最有吸引力的行業是網絡安全,互聯網,生物識別技術,所有這些行業都存在於計算機視覺的重大或主導影響。
在數據集中,靜態圖像被擊倒最困難 - 佔攻擊的61%。根據報告,下一個文本數據集是遙遠的10%。
之後,單個數字的長尾巴。在列出的11個數據集中,視頻排名最後,其中2%的攻擊。