本周，一名波兰工程师兼投资者使用 ChatGPT 生成假护照，引起了安全行业的关注。
SMOK Ventures 的创始合伙人 Borys Musielak 声称，伪造的文件可以通过大多数自动化的“了解你的客户”(KYC) 系统。
“其含义是显而易见的——任何依赖图像作为‘证据’的验证流程现在都已正式过时，”Musielak说在领英上。 “这同样适用于自拍照。静态或视频，这并不重要。GenAI 也可以伪造它们。”
Musielak 从实验中得出的结论是，人工智能制作的文档可能会欺骗仅依赖照片和自拍照匹配的验证系统。更令人担忧的是，伪造文件的规模和速度可能是前所未有的。
幸运的是，有解决方案，包括通过芯片进行验证。公司如例如，一直建议在 EUDI 钱包登录中使用基于 NFC 的身份验证，并以最高的 eIDAS 保证级别将钱包与其用户绑定。
“唯一可行的道路是数字验证身份，例如欧盟强制要求的 eID 钱包，”Musielak 说。
工程师的演示之后，急切的模仿者使用 ChatGPT 的工具伪造了其他身份证明文件，这些工具目前基于 GPT-4o 大语言模型 (LLM)。印度的社交媒体上出现了大量显示假 Aadhaar 卡和 PAN 卡的图片，根据经济时报。
ChatGPT 对该实验做出了迅速反应，并很快开始拒绝伪造文件的请求。这家总部位于美国的公司可能还引入了标签，可能是为了利用人们对文件伪造的担忧。最近人工智能生成的文档到达的它们上面有一个标志，上面写着“样本”、“不供官方使用”和“演示”。
文章主题
|||||||
