麻省理工学院媒体实验室研究员乔伊·布拉姆维尼(Joy Buolamwini)回应了她对她的研究的批评算法偏见在亚马逊和其他公司提供的服务中,同时使用亚马逊重新认知的警察评论和微软总裁布拉德·史密斯(Brad Smith)可能会进一步激发有关执法部门使用面部识别的模仿公开辩论。
华盛顿县警长办公室(WCSO)公共信息官员告诉Gizmodo尽管亚马逊断言执法客户应使用99%的阈值。
Buolamwini直接解决了AWS人工智能总经理的几个要点马特·伍德博士以及其他批评中期。
反驳的第一点是重申甚至最准确的面部识别技术所拥有的滥用潜力。 Buolamwini认为,这种潜力包括支持大规模监视或歧视某些群体的用例。伍德断言该研究结果是误导性的,因为它们是基于面部分析而不是面部识别技术的,她认为所有分析面孔的系统都需要评估有害偏见,并且两种技术的关系都非常重要。
她写道:“首先,甚至无法检测到围绕面部分析技术的研究的主要问题,因为这些研究通常是基于检测到的面孔的结果。”
根据Buolamwini的说法,缺乏有关亚马逊用于其算法测试的数据集的信息,特别是缺乏有关其人口崩溃的信息,可以防止对其偏见进行评估或缺乏偏见。她还指出,尽管信心得分可能会有所帮助,但他们可以简单地表明对虚假的信心,而NIST的研究表明,使用面部分析的人经常使用默认设置。回应表明,亚马逊的断言,即其最新算法没有使用有时会使用较旧版本的事实,而Buolamwini询问新版本的采用率是多少。她指出,批评属性或性别分类与执法方面的考虑无关,她指出,它可以用来缩小搜索领域的范围,并且NIST甚至提供了有关警察如何使用该技术的信息。
WCSO公共信息官后来澄清说,WCSO仅将重新认知用于潜在客户,而决定最终是由官员做出的。 Gizmodo还报告说,Clackamas County Systems Project Project分析师在通讯中说,通过ACLU信息自由请求公开,重新认知“文档非常缺乏或错误”。
亚马逊发言人在一份声明中写道,WCSO对重新认知的使用是该技术帮助执法能力的一个很好的例子,并且它基本上执行的过程与以前更加缓慢,更精确地由官员执行。
该公司声明说:“从一开始,华盛顿县警长办公室就对其对技术和政策的政策的使用完全透明,并且与当地立法机关,代表和公众的使用进行了持续的公开对话。” “在使用的两年中,从未有过关于公众使用重新认知的当地选区的单一报告。我们很荣幸能与所有执法客户(包括华盛顿县警长办公室)合作,与公众和地方政府与公众和地方政府合作,以帮助对危险犯罪,协助执法,并改善公共安全,并协助调查。”
同时,史密斯告诉业务内部人士防止政府机构使用面部识别的情况太远了。
史密斯说:“我不明白公司应避免出于任何目的避免向任何政府机构许可的所有许可。” “对所有政府使用的全面禁令显然太远了,其人道主义效应有残酷的风险。”
尽管他认识到与技术使用相关的风险,尤其是执法部门和某些政府,但史密斯引用了其在诊断罕见疾病(例如Digeorge综合征)中的用途。他还指使用新德里警察试图找到5,000名失踪儿童的面部认可,但当地报告和德里高等法院对该项目的有效性提出了质疑。