多年以来，用于面部识别和身份验证的许多AI系统具有种族和性别偏见问题。系统显示皮肤较深的人的错误识别率更高，有时会导致不当逮捕。其背后的主要原因是对数据AI模型进行了培训，其中包括白人和男性面孔。
为了解决这个问题，一些公司正在用虚假面孔来丰富他们的数据集。生成的AI可以创建大量数据，从而在不同的情况和不同环境中捕获人类的独特性。怠速联合创始人兼首席技术官马修·亚当斯（Matthew Adams）。
他说：“我们能够产生很多条件和许多不同面孔的变体，远远超出了您现实中所获得的。” “您天生就会获得更好的结果，您的偏见要少得多。”
Idverse使用生成AI来训练其“零偏见” AI技术中使用的深神经网络系统。澳大利亚公司，以前称为OCR实验室说，它有助于根据种族，年龄和性别来最大程度地减少歧视，并要求在测试中获得99.99％的准确性。
合成面也被用来解决诸如iDverse之类的生物识别开发人员的其他问题。
虽然全球政府已经发出警告关于Deepfakes通过播种混乱来破坏民主国家的潜力，企业已经在与增加依靠生成AI的骗局和欺诈数量。但是，同样的生成AI工具也可以用于检测攻击期间的深击。
iDverse的CMO的Loc Nguyen说：“合成面孔在行业中严重使用时被称为“深色假货”，这是它们被用来欺骗保护系统的时候。” “我们创造了一个更好的名字，'好餐厅'。好餐厅用于训练我们的算法，以发现相同的工具，不同的结果。”
生成AI的使用也可能有助于增加隐私法规关于生物识别数据的使用，并最终导致面部数据的道德化采购。
传统的培训良好AI算法的方式已经收集了尽可能多的数据。但这有时会导致不道德的做法，包括从未同意分享它。亚当斯认为，需要为AI模型提供“营养邮票”，以确保在所有者的同意下以道德来采购面孔。
他说：“我们不知道这些模型的成分。我们不知道它是在道德上采购的还是他们的培训方式。”
伊德弗斯（Idverse）表示，如今，该行业正在朝着训练面部识别的不同道路迈进。
许多公司通过使用来自一个特定区域的面部数据来培训其算法。当富集数据集时，他们通常会尝试获取尽可能多的面部数据，以便他们可以掌握自己的动手。但是算法有时无法适应其处理面的方式。
Idverse高管们说，在尽可能多的合成数据培训数据集中，他们是“大信徒”，而不是使用真实数据。
这家澳大利亚公司成立于2014年，是一家研究公司，并于2018年以OCR实验室为商业。它成为第一家澳大利亚私人公司赢得认证作为政府数字ID系统以外运营的身份提供商的认证。今年5月，改变了它的名称，专注于生物识别验证，可能检测，文档验证和视频kyc。
它的依赖合成数据出于获得真正面孔的困难而出来的。
亚当斯说：“从道德上讲，您无法从某些公司或国家 /地区获得大量数据集。” “从我的理解中，我们是唯一实际使用堆栈中完全生成的面部模型的人。”
生成的AI不是银弹。 Nguyen说，它还可以创建合成媒体，以征收旧的偏见。但是深击已经打开了许多大门。有了当今的计算机，我们已经能够收集相同数量的面孔和排列，在现实生活中可能需要200到300百年。随着计算机处理能力的增加，假面的数量也会增加。如果一切都按照闲置的计划进行，这将意味着面部识别中算法偏见的终结。
