我们需要更多的生物识别标准吗? IBM是正确的举动吗撤回其面部识别技术从美国执法部门使用?绝大多数人认为IBM树立了正确的榜样,但35%的人不同意身份的妇女有关生物识别技术,隐私和排斥的网络研讨会。
虽然一位与会者认为这是“反对警察进行严格的大规模监视的声明”,其他人可能认为IBM退出了,因为这没有产生预期的收入。
黛比·雷诺兹(Debbie Reynolds),身份妇女的数据隐私官,以及创始人兼首席隐私官黛比·雷诺兹咨询公司,只要在道德上应用技术,就支持技术,但是她认为,不应允许计算机自己做出最终决定,因为人类应该是最终的决策者。
雷诺(Reynolds)认为,面部识别不会很快消失,但是,知道系统中存在偏见,公司应该专注于进一步改善技术。 “那么,我真正想看到的是,而不是说他们将停止使用或停止发展[面部识别],而是要做什么来改善它?”雷诺兹问小组。
Keren Weitzberg博士是伦敦大学学院的研究人员和教学研究员,其工作以东非为中心,他担心如何在以色列和巴勒斯坦部署以前的部署后如何使用生物识别面部识别。魏茨伯格认为,技术的实际使用和预防滥用的法规应该具有更高的透明度。她说:“当然,它们在执法方面可能会有一些积极的用途,但实际上,我还没有看到很多例子。”
小组同意,大多数问题与某些面部识别技术中遇到的内置偏见有关,如民间社会和隐私权组织(例如算法正义联盟。 Weitzberg称IBM的立场“有些不明智”,因为该公司“这些技术不是这些技术的主要提供商之一,也是美国警察部门,而且它们确实为警察提供了其他类型的智能技术。”魏茨伯格问,这种偏见如何影响人群?
尽管面部识别仅在少数非洲国家中很受欢迎,但韦兹伯格同意雷诺的同意,即面部识别技术“赶上了政策和法规领先”。雷诺认为,当这些技术与身份系统集成在一起时,问题是它们是为每个公司的客户群培训和开发的。意思是“对于非常狭窄的人”,很难在世界范围内实施。雷诺兹指出:“这只是行不通。”
尽管生物识别技术和面部识别通常可以互换使用,但术语仍然存在显着差异。艾玛·林德利(Emma Lindley),身份共同创始人和董事总经理AIID全球。用户经常将面部识别与监视摄像机和缺乏同意相关,或者具有对访问银行帐户的访问的生物识别。当被问及生物识别技术和面部识别之间的差异时,雷诺(Reynolds)并没有将两者分开,因为“他们对我们自己非常个人”和“他们被融入了不同类型的身份系统”。
韦兹伯格认为,生物识别技术实际上涵盖了不同情况下使用的“全部技术”,认为在使用面部识别方面存在主要差异,可以将手机解锁“从警察依靠大型的面部图像数据库中,并参与了大规模监控的人,没有人的同意”。当使用敏感数据运行时,总是存在一个问题,即隐私和安全性如何受到影响。
回到身份系统,林德利认为当前的景观并不代表应该使用这些系统的人们。无论是因为他们的性别,种族,种族,性认同,年龄,宗教或社会地位,都有大量代表人数,他们应该使用无法完全满足其需求的服务。
国家标准技术研究所(NIST)询问有关其数字身份指南的反馈检查他们是否满足消费者的要求。尽管95%的网络研讨会受众认为需要更多的行业标准,但雷诺兹指出,尚未解决有关道德规范的标准,并且重点通常放在技术标准上。这是一个问题,因为并非所有人都在数字上识字,但是他们仍然必须了解他们正在使用的系统和技术。
魏茨伯格说,最近在非洲国家的无银行和无证件社区提供数字身份和金融服务方面有很多噪音,但她已经亲眼目睹了“政府组织中,政府公司确实确实对非洲用户的看法非常平坦,并且通常不认识到整个非洲国家都有巨大的差异,而跨越了整个全球范围。
Weitzberg担心用户没有足够的识别,因为在开发身份系统时,多样性频谱被忽略了。在某些情况下,同意似乎被忽略了,就像肯尼亚的生物识别注册计划一样在法庭上受到挑战在许多肯尼亚人感到压力之后。
民间社会团体和积极参与该过程的社区参与可能会有所帮助,但是Weitzberg怀疑会有一个没有缺陷的系统,这可能与“大规模权力失衡”期间的排除或同意有关。例如,难民可以觉得他们别无选择,只能提供信息,因为他们处于脆弱的境地。她提出的另一个问题是需要注册的未成年人,在民间社会组织确实可以有所作为的情况下。
雷诺兹指出,世界上将近一半的人口没有智能手机,而57%的人口没有互联网访问。考虑到针对智能手机开发的接触跟踪应用程序,在身份生态系统中非常需要教育,以确保即使是没有数字识字的人也可以访问并了解如何使用这些系统。为了实现这一目标,参与建设它们的公司和政府需要共同努力并帮助教育人们前进。