美国国会包括28个人,匹配亚马逊面部识别技术的逮捕照片。博客文章由美国公民自由联盟(ACLU)。
为了展示系统的准确性和限制,ACLU与535名国会议员的图像相对于25,000个公开可用的Mugshots的数据库,默认的匹配设置为12.33美元。该实验的错误匹配率超过5%,重新认识发现,肤色,性别,年龄和党派隶属的国会议员(包括民权传奇人物众议员约翰·刘易斯(D-Ga。))发现了不正确的国会议员。
美国公民自由联盟指出,国会黑人核心小组(CBC)向亚马逊首席执行官杰夫·贝佐斯(Jeff Bezos A)信(PDF)在ACLU和其他其他方面不久对执法部门使用该技术表示关注隐私团体解决了争议关于美国警察对公司的信函的使用。
CBC写道:“很明显,有色人种比白人社区更加严重,更积极地进行监管。” “这种现状会导致数据过度采样,这些数据曾经用作利用人工智能的分析框架的输入,可能会对这些过度采样的社区产生负面影响。”
在ACLU测试中,几乎40%的虚假比赛是有色人种,几乎是国会份额的20%。
你有人工智能和机器学习领域的资深人士Doug Aley认为,必须需要这种准确性,需要人类的监督。
“警察使用的任何技术都可以滥用,” Aley在电子邮件中告诉生物识别更新。 “最重要的是要使执法部门了解没有系统是万无一失的。在做出认同后,仍然需要进行人工干预和无罪的推定,直到您手动验证犯罪嫌疑人为止。确定需要进行调查和培训。但是,我们还需要了解,长期以来拥有这些工具确实可以挽救生命。”
如果执法部门正在使用亚马逊的重新认知,就不难想象警察会遇到'比赛',这表明一个人以前有隐藏的武器逮捕,甚至在遭遇开始之前就偏见了警察。
“一个认同(无论是否准确)可能使人们的自由甚至是他们的生活。”
该帖子继续描述了一个事件,在该事件中,自动车牌读取器的不正确比赛导致警察与一名老年黑人妇女之间的不必要的积极对抗。它说,俄勒冈州已经开始使用Rekognition在没有Publc辩论的情况下构建Mugshot数据库,并警告说,对面部识别的监视可能会损害第一修正案的权利。
美国公民自由联盟(ACLU)结束时呼吁国会对美国执法部门使用面部识别的暂停。
全球公共部门的亚马逊Web服务总裁Teresa Carlson回应了批评浪潮本周说,该公司不会改变它的方式市场和许可面部识别技术致美国政府和执法部门。