指责亚马逊该公司在一家中说,提供不准确的面部生物识别技术,并且对面部识别的道德和社会关注缺乏适当的关注。博客文章回应最近的研究论文和报纸文章。亚马逊说,AWS人工智能总经理Matt Wood博士写道,这是“敏锐地意识到”对技术的担忧,并“高度动机”进行改进,以回应有关的争议。各种面部生物识别算法的偏差由Joy Buolamwini。
亚马逊对发现的主要反对意见是,即使它是使用不同的基础技术和培训数据的独立服务,即使面部分析被用作亚马逊重复的代理。伍德还指出,可用的信息不包括用于研究的信心阈值,并认为面部分析的用例包括产生所有可能匹配的搜索,而对于执法案例,应将置信度设置为99%。
根据伍德的说法,11月推出了一种新版本的重新认知算法,这不是Buolamwini使用的版本。在内部测试来自六个族裔的12,000张图像的内部测试中,亚马逊“发现与性别分类有关的准确性没有显着差异。”该公司还以99%的置信度匹配了来自议会网站的图像与Megaface数据集的图像,并发现零误差匹配。
伍德还解决了透明度和标准问题。
伍德写道:“除了我们的内部测试或单一的“时间点”结果,我们还对与学者合作建立一系列标准化测试,以进行面部分析和面部识别,并与政策制定者合作就其使用的指导和/或立法进行合作。” “来自国家标准技术研究所(NIST)的现有标准化测试允许孤立地测试一个简单的计算机视觉模型。但是,亚马逊重新认知使用了引擎盖下的多个模型和数据处理系统,该系统不能隔离地进行测试。我们欢迎与NIST合作的机会,可以与他们的测试一起进行改进,以使其对其进行进化的训练和建立数据群体,并建立了数据群,并建立了botens schens和benth的数据。
根据博客文章的说法,任何建议或没有改进其技术的建议都是错误的,因为当前版本的重新认知是第四个更新。伍德还写道,亚马逊的直接提出要讨论,更新和协作在测试方面尚未得到研究人员的认可。
该帖子中承认与面部识别相关的潜在风险,该帖子还表示,如果发现客户不负责任或侵犯了公民权利,亚马逊就会暂停客户对服务的使用。该公司对技术可以带来的好处保持乐观,但是,例如寻找失踪的儿童并提供更好的付款认证,并指出尚未报告执法人员的重新认识。
伍德说:“对新技术的焦虑的答案不是要运行'测试'与该服务的设计方式不一致,并通过新闻媒体扩大了测试的错误和误导性结论。” “我们渴望继续与研究人员,学者和客户合作,随着我们发展这一重要技术的不断改进。”
与面部识别有关的问题是一个热门话题达沃斯的世界经济论坛,微软一直将自己定位为公共善意,要求政府法规。