波蘭工程師和投資者本週通過使用Chatgpt生產假護照，在安全行業引起了人們的注意。
SMOK Ventures的創始合夥人Borys Musielak聲稱，偽造的文件可以通過大多數自動化的知識客戶（KYC）系統。
“含義是顯而易見的 - 任何依賴圖像作為'證明'的驗證流現在正式過時了，” Musielak說在LinkedIn上。 “自拍照也是如此。靜態或視頻，這也沒關係。Genai也可以偽造它們。”
Musielak從他的實驗中得出的結論是，AI製造的文檔可能可能僅依靠照片和自拍匹配的dupe驗證系統。更令人擔憂的是，偽造的文件可以規模製作，速度從未見過。
幸運的是，有解決方案，包括通過芯片進行驗證。諸如例如，已經建議將基於NFC的身份驗證用於EUDI錢包，並將將錢包與最高的EIDAS保證水平結合到其用戶。
Musielak說：“唯一可行的途徑是通過數字驗證的身份，例如歐盟規定的開齋節錢包。”
工程師的演示之後是急切的模仿者，他們使用Chatgpt的工具偽造了其他身份文檔，這些工具目前基於GPT-4O大語言模型（LLM）。印度的社交媒體看到了大量的圖片，顯示了假Aadhaar卡和PAN卡，根據到經濟時期。
Chatgpt迅速回應了實驗，很快就開始拒絕偽造文件的請求。這家總部位於美國的公司可能還引入了標籤，可能會擔心文件偽造。最近的AI生成的文件有到達的他們上面寫著“樣本”，“不是官方使用”和“演示”。
文章主題
|||||||
