在6月份透露,一些评论员对Deepfake Scams的兴起的恐惧令人震惊。
据报道,影响该公司软件的脆弱性允许俄罗斯黑客黑客组CL0P窃取大型公司(例如英国航空公司,壳牌和普华永道)以及美国政府机构(例如加利福尼亚州养老金制度)所持有的消费者的个人数据。
Haywood Talcove,首席执行官Lexisnexis风险解决方案”政府部门说《金融时报》 这些数据可能包括驾驶许可证,照片,出生日期以及健康和养老金信息之类的信息,可以与软件结合使用,以执行Deepfake Scams。
他解释说:“我不是犯罪分子,但是我已经研究了很长时间了 - 如果我有这么多信息,那是如此原始,天空是极限。”
例如,执行官声称这些深层技术可用于创建许多美国国家机构与生物识别技术一起使用的欺诈性视频自拍照,以验证身份,允许罪犯收集失业,食品券甚至大学贷款。
Talcove声称,只有一个成功伪造的身份可以欺骗政府的200万美元。
sumsub指出a深击的急剧增长在宣布上个月推出其DeepFake检测工具时,观察到的欺诈事件中。该公司是开发用于防御生成AI产品的工具的众多工具之一。
Jumio最近警告说消费者过分自信他们有能力发现深果。
在西方以外,许多政府现在认识到防止深层欺诈的重要性,以及技术如何进入图片。
在反cam会议上的演讲中在新加坡,遵循的理由指出,内政部和社会和家庭发展部国务大臣太阳Xueling指出了Deepfake欺诈,并谈到了技术如何帮助打击这些新的新兴欺诈形式。例如,这可能包括引入骗局检测登记处和更好的欺诈监视。
这位部长还指出国际合作,包括跨境数据共享,他说这可以帮助实现更好的预防欺诈。
一篇文章财务大亨 强调了语音和基于手势的付款的潜在好处,这为用户(例如卫生和客户体验的质量)解释了好处,不需要诸如卡片之类的物理设备,甚至将来甚至引入了与增强现实的集成。
但是,这篇文章还涉及深层诉讼的兴起如何增加基于语音的付款欺诈的风险,并表示,该行业需要探索“诸如优先考虑用户教育,采用多因素身份验证以及利用AI驱动的防御机制之类的有效措施。”
许多与生物识别技术相关的公司正在加紧并提供旨在打击Deepfake欺诈的解决方案。
本周早些时候,阿姆斯特丹的面部识别技术提供商VisionLabs推出了DeepFake检测产品,声称其算法可以提供92%至100%之间的准确率。 Elevenlabs是一家美国的初创企业,提供语音合成平台发布者和创建者可以用来制作合成音频内容最近推出了一个新工具这将允许用户上传任何音频示例,以识别它是否包含公司自己的AI生成的音频。其他供应商最近发布了与Deepfake欺诈威胁的工具,包括daon,,,,Paravision和ID R&D。