亚马逊不仅仅是一家电子商务或云托管巨头。他还开发了向所有人开放的智能图像分析软件，侦察，特别被警察部门和美国政府机构用来识别和跟踪视频监控摄像头拍摄的人。该系统的面部识别功能如今在美国引起了激烈争议。
有色人种政客人数过多
他实际上被指控ACLU（美国公民自由联盟）不可靠。后者将所有国会议员的照片提交给 Rekognition，并将其与罪犯数据库进行比较。令人惊讶的是，该软件错误地建立了 28 个匹配项。被滥用的美国代表包括男性和女性、共和党人和民主党人、各个年龄段和来自美国各个地区的人。相比之下，仅占国会议员 20% 的有色人种却出现在 40% 的结果中。
对于美国公民自由联盟来说，结论很明显：该软件对有色人种男性的识别能力不如白人，因此存在偏见。考虑到可能因此被错误怀疑而对人们的生活造成的严重后果，她呼吁执法部门暂停使用面部识别技术。她引用了俄勒冈州的一个案例，其中 Amazon Rekognition 已经被用来将人脸与司法警察照片数据库进行比较，而此前并未引发公众辩论。
“在充分考虑其危害并采取一切必要措施防止其伤害弱势社区之前，不应使用该技术”，我们可以在协会的官方网站上看到。
使用 Rekognition 的准确率应该达到 99%
这亚马逊回应没多久。该公司普遍批评美国公民自由联盟没有提供其实验背景的详细信息。更具体地说，她强调错误匹配只会是使用错误参数获得的误报。所要求的可靠性实际上只有80%。可接受用于识别应用程序中照片中的名人或家庭成员。但亚马逊建议在识别敏感情况下的某人时仅考虑 99% 的准确率。通过复制 ACLU 测试而不是基于 99% 的测试结果，亚马逊声称没有任何错误。但他没有提供反调查的证据。
此外，该组织强调，其软件只是一种决策辅助工具，绝不构成最终证据。总是由使用它的人做出选择。最后，该公司对没有更多地了解 ACLU 使用的比较数据库感到遗憾，后者可能被扭曲并导致了这些错误的答案。亚马逊最后提醒说，它正在不断改进其系统，机器仍然是识别个人身份的最佳方式，目击者的可靠性低于软件。
我们将首先反驳亚马逊的论点。目前，用户还没有义务将可靠性提高到如此程度来使用该软件。这也许就是该公司在其沟通末尾这段神秘的段落中所指的内容。“我们不应该扔掉烤箱，因为温度设置不正确可能会烤焦披萨。然而，政府介入并规定执法机构开展安全工作必须达到的温度（或置信水平）是合理的。”。亚马逊呼吁政府干预的情况并不常见。
白人男性更容易被认可
然而，这并不能改变一个更根本的问题。去年二月，一麻省理工学院媒体实验室研究通过测试微软、谷歌、Face++ 和 IBM 的工具，证明面部识别对白人男性更有效。原因很简单，因为计算机经过更多的训练，可以识别白人男性，而不是女性或黑人。训练数据库存在偏见，如今的软件性能也受到了影响。我们现在正在等待对 Rekognition 进行更严格的学术研究，以验证它不会在不知情的情况下产生有偏见的结果。
这并不是该软件第一次成为争议话题。去年 6 月，员工向杰夫·贝索斯 (Jeff Bezos) 发送请愿书，对 AWS 云服务以及这一著名的面部识别工具可能被特朗普政府用来间接追踪移民感到愤怒。由于这些原因，股东和民权组织也要求亚马逊停止与政府开展业务。
