国土安全部（DHS）和族裔已经解决了有关人工智能（AI）在生物识别算法中的安全性和透明度（AI）的关键问题。这是对白宫最近的回应行政命令建立针对AI安全和保障的新标准以及国土安全部的IT战略计划，这优先考虑安全，安全，值得信赖且没有算法歧视的AI系统的开发。
在本周的网络研讨会上，运输安全管理（TSA）和IDEMIA的专业人员强调了解决算法的迫切需要偏见在AI驱动的生物识别系统中，特别是在面部识别软件中。讨论强调了了解种族，性别和其他人口统计学因素如何导致偏见的重要性，以及建立整个行业标准和最佳实践以减轻这些问题的必要性。
对话还围绕评估和改进AI驱动的生物识别系统的重要性，以确保公平，稳健性和准确性，并平衡创新与严格的安全要求。此外，发言人强调了在采购过程中需要透明度的需求，以及在生物识别技术应用中保持人类相互作用和考虑的重要性。
Evan Bays，工程和司法部运营副总裁IDEMIA NSS（国家安全解决方案）和首席技术官/首席数据官Matt GilkesonTSA，深入研究生物识别算法的当前景观。
海湾指出，该行业在承认和解决算法偏见方面取得了重大进展，但也强调了继续保持警惕的必要性。他解释说，生物识别系统的偏见会导致严重后果，例如错误逮捕或拒绝服务，这突出了以透明度和道德考虑开发和部署AI的重要性。
吉尔克森（Gilkeson）提供了有关TSA的数据治理方法的见解，以及确保AI系统既安全又可靠的措施。他强调了负责任的数据收集和对AI系统的严格测试的作用，以确保它们没有偏见。这包括使用不同的数据集用于培训算法并不断审查系统以避免任何无意歧视。
“我们可以谈论您知道的其他一些过程，使他们能够应有权获得的服务。因此，这些偏见会影响一个人的生活。这不是一台计算机。它不是数据的统计表示，而是在那里发生了什么，而是如何实际转化为我们的社会，”他继续说道。
演讲者还讨论了透明度在采购过程中对AI应用程序的重要性。他们强调需要政府机构和私营部门合作伙伴共同努力，以确保其部署的算法受到严格的审查，并符合公平和准确性的最高标准。
“迄今为止，这里的一件事是政府正在为生物识别识别采购AI时，生成的AI是吸引许多头条新闻的人。”贝斯说。
“但是，当我们谈论了解AI的准确性，可靠性和有效性与这些大型系统中的身份相匹配，以支持一对一的验证用例或一对一的识别用例，当我们经历此预测过程时会有哪些风险？”
Bays补充说，生成AI产生合成图像的能力仍在增长。
他继续说：“有人可以采取合成的面孔并将其放入生物识别系统中吗？这是什么影响？AI不仅使算法的准确性和效率能够改善，而且还提供了攻击的机会。”
“Transparency of what is available, how the algorithm, as presented by a vendor, is measured against these various scenarios and data sets. One of the things you want to see, going back to the math aspect of it, is how close or how separate are the results across these very various demographic groups, and this provides a nice chart that shows that where you can go through and see the performance for the scenario, for the populations, and understand where is that demographic effect and bias, and how可以测量吗？”
此外，吉尔克森（Gilkeson）和海湾（Gilkeson and Bays）强调了在生物识别系统应用中维持人类监督的必要性。尽管AI可以提高身份验证过程的效率和准确性，但演讲者同意，在该技术可能具有改变生命的影响的情况下，人类的判断仍然是至关重要的组成部分。
