來自傲慢的人從來沒有厭倦,人類傾向於高估其檢測深擊的能力。Jumio。對於身份驗證公司的2023年在線身份研究,他們查看了來自美國,英國,新加坡和墨西哥的8,055名消費者的數據。
超過三分之二的受訪者知道生成AI工具的功能,一半以上有信心他們可以發現一個深擊由大語言模型或AI創建的視頻。但是,生成AI工具的進步(其中chatgpt目前是最廣泛的,眾所周知的)使圖片變得複雜了,欺詐仍然是一個昂貴的問題。根據Jumio的說法,2022年,模仿騙局損失了英國1.77億英鎊和美國消費者的26億美元。顯然,我們並不像我們在AI方面那樣聰明,也不是應有的謹慎。
“很多人似乎認為他們可以發現一個深料。”斯圖爾特·威爾斯(Stuart Wells),Jumio的首席技術官在新聞稿中。 “雖然當然有明顯的跡象可以尋找,但深果始終變得呈指數級好,並且在沒有AI的幫助下,越來越難以檢測到。”
“儘管企業將越來越多地要求以AI為動力的技術發現和保護其網絡和客戶免受深層影響,但消費者可以通過治療來保護自己挑釁的圖像,視頻和音頻懷疑,”威爾斯說。
至少在某些地方,我們似乎正在冒險。新加坡和墨西哥的受訪者表現出對身份盜用和其他有害用途的潛在威脅的高度認識,分別為73%和62%。美國和英國的回答低於50%。
Jumio數字身份總監Philipp Pointner說:“組織有責任教育客戶的生成AI技術的細微差別,以幫助他們建立對發現深煙的能力的更現實的期望。”但是,他強調對適當的安全工具和數據保障措施同樣迫切需要。 “在線組織必須尋求實施多模式,基於生物識別的驗證系統這可以檢測到深煙並阻止被盜的個人信息被使用。 ”他說。
在結果中鏡像在類似的報告中,有68%的消費者表示,他們很自在使用數字ID,並在金融服務,政府和醫療保健中排名,而數字ID是首選的服務。
在2023年初,Jumio宣布它的自拍生物識別技術,身份證明和風險評估工具的預訂超過了2億美元。