尽管语言在各个地区都有不同,但是关于生物识别技术的大多数法规都必须使其坚固,准确,可靠,高效或以其他方式能够很好地达到其目的而无需犯错误。
测试使这成为可能。标准化的测试框架,例如美国国家标准技术研究所(NIST)提供的测试框架,和为生物识别行业建立信任基础。
但是,如果测试本身还不够强大怎么办?即使是彻底复制现实世界条件的彻底尝试也可能会错过特定案件部署的细微差别。实验室中有效的方法可能会在现场失败,标准测试可能无法说明在现实情况下的偏见检测,攻击弹性和可用性。
在新的生物识别学院报告负责生物识别技术的未来,认为“局部和量身定制的测试方法(对于适当的国际标准)对于解决人口偏见,独特的脆弱性和不断发展的监管景观至关重要。”
量身定制的测试可以补充确保生物识别系统满足特定人口统计,设备和用例的独特要求。在广泛的设备上进行测试是针对具有低成本或旧版硬件的用户的。攻击弹性测试可以衡量算法对毒管的抵抗力,对抗性人工智能攻击和其他恶意尝试损害其完整性。在算法上投掷现实世界变量可以评估其在动态照明,湿度或背景噪声条件下运作的能力。
“通常与不同的人群相互作用,并在各种条件下运作。如果没有局部测试,组织就会冒着部署系统,这些系统无意中排除某些群体或在特定地区无法可靠地执行。”
多样性是培训面部识别系统的力量
关于人口多样性的直接主张认为“某些由于训练数据集的多样性有限,因此已显示出在较深的肤色上表现不佳。” (尽管在Nist的最新测试,最准确的算法显示出非常低的差异。)问题部分是一个步伐:生态系统的增长迅速,某些组件已经分散。开发人员之间的信息共享是有限的。
最重要的是,说:“现在已经达成共识,即AI模型仅与训练它的数据一样好。”卷积神经网络(CNN),可以基于面部的深度机器学习对于面部识别系统,需要多种参考材料;没有它,“算法的性能将不足。”
“这是偏见,” Fime说。 “它不一定是恶意的,而是现实” - 它需要“在生物识别链中紧急关注;从软件和传感器开发人员到设备OEM以及标准化机构和政府。”
Fime说:“要了解评估生物识别系统潜在偏差的最佳指标,衡量每个度量标准对系统的特异性和准确性的效果非常重要。考虑到这一点,领先的生物识别专家创建了一种创新方法来注入生物识别系统的偏见并评估每个度量标准的效果。该系统允许专家为特定的人群子组注入选择性偏见,并控制每个偏差的强度。对每种偏见的强度进行直接控制,使专家能够监视每个度量标准对已知变量的效果。”
了解您的生物识别测试
您测试的越多,您知道的越多,概述了性能测试,安全测试,,以及法规和合规性测试。
绩效测试“衡量生物识别系统在现实情况下的功能。”它包括错误的接受率(FAR)和错误拒绝率(FRR) - 分别指示系统错误地接受或拒绝合法用户的频率以及在各种物质条件下评估系统性能的环境测试。
安全测试“对于确定生物识别系统中的漏洞并防止恶意攻击至关重要。”它包括欺骗和演示攻击检测(PAD),以评估假指纹,3D打印面孔或语音模仿的检测功能;确保安全加密数据库并遵守法规;并模拟现实世界的欺诈策略,包括,合成媒体和注射攻击。
偏见和公平测试“确保生物识别系统对所有人群群体都同样有效,并且“对于道德实施至关重要”。多样性评估,跨人口统计的错误率分析和算法审核支持此过程。
监管和合规性测试措施针对GDPR等道德,法律和监管框架进行措施,伊利诺伊州(Bipa)和AI法案。
Ingenium说:“独立实验室和测试设施在到达市场之前评估生物识别系统中起着至关重要的作用。” NIST进行“严格的生物识别测试计划,例如面部识别供应商测试(FRVT)和指纹系统的Minex评估”。国际标准化组织(ISO)提供了生物识别测试标准,例如ISO/IEC 19795生物识别系统的性能测试框架和垫标准。
以及提供评估和认证的行业机构,例如,也起着作用。
根据Ingenium的说法,所有这些都很重要,因为“负责生物识别技术的未来取决于严格的测试,道德考虑以及遵守安全和隐私标准。”
IDIAP报告指出“对公平和值得信赖的FR系统的批判需求”
一个新研究报告从IDIAP研究所“系统地通过不同但相互关联的部分进行了系统的人口偏见问题:原因,数据集,评估指标和缓解策略。”
确定的原因以“不平衡或不代表性的数据集”开头,但也因肤色变化,“解决人口统计学属性的敏感性和限制”的差异以及图像质量。
合着者Ketan Kotwal和塞巴斯蒂安·马塞尔(SébastienMarcel)IEEE写道:“通过对这些领域的关键贡献进行分类,这项工作提供了一种结构化的方法来理解和解决面部识别系统偏见的复杂性”。
最终,他们强调了“对公平和值得信赖的FR系统的批判性需求”。
新的生物识别测试实验室在莫斯科开放
对测试的需求是全球性的,这是在莫斯科开展的新统一生物识别测试中心(ECBI)证明的,莫斯科是莫斯科信息技术部与俄罗斯生物识别社会非营利性合作伙伴关系的合作。一个笔记在Oreanda News中说,该中心将“使用视频分析进行研究,试点和评估解决方案”。
据莫斯科副市长纳塔利娅·塞尔古尼纳(Natalia Sergunina)称,该市正在积极研究计算机视觉技术的最佳实践,并“实施它们来解决城市问题”。
文章主题
||||||||