刮擦数据中毒从可能的策略列表中,以抵御地平线至摩恩生物识别示意算法。
一个公私的研究人员团队研究了数字照片(在这种情况下,在社交媒体服务上大部分发现的面孔照片)的说法,或者可以更改忐忑,足以毒化对更改图像的面部识别模型培训。
在这种情况下,中毒意味着模型会误认刮擦图像。最初的希望是,人们和组织可以使用相当简单的软件工具使面部刮擦不切实际,甚至不是不可能。
Google,Stanford University和Oregon State University的科学家已有发表他们在Open-Access arxiv.org平台上的发现。该论文未经同行评审。
他们指出,更改的照片必须如此巧妙地设计,以至于他们永远不会被面对生物识别的盗版者所困扰。如果更好的算法上升,则扰动代码与破解一样好。
而且,根据他们的报告,黑盒对攻击的访问可以训练模型以绕过目标图像。还有其他版本的数据中毒,但它们似乎依靠过于乐观假设。
许多软件和服务初创公司,最著名的是Clearview AI,为了创建持有数十亿张照片的生物识别数据库而宣称要创建数十亿个互联网图像。
大多数图片(包括Clearview存储的图片)都是从明确禁止刮擦的社交媒体服务中拍摄的。这种做法使服务所有者和身份权利活动家感到恼火。
Clearview向执法机构出售订阅,警察经常使用公司的算法来识别面部识别网络上接收的人们的图像。 (它是服务正在使用由乌克兰政府,可能是俄罗斯军队和战争死亡。