一个专业调查《华盛顿邮报》透露,美国警方经常使用面部识别作为逮捕的唯一依据,这违反了要求警察有合理理由和确凿证据的内部政策。
《华盛顿邮报》的调查结果还揭露了两起此前未报道的案件,这些案件中的人在被确认身份后被错误逮捕,强调了生物识别技术在执法用例中的一个主要潜在缺陷:必须相信警察会合乎道德地使用它。
然而。 “全国各地的执法机构正在使用《华盛顿邮报》称:“这些工具的使用方式从来都不是为了在没有其他证据的情况下寻找和逮捕嫌疑人的捷径。”
记者道格拉斯·麦克米兰 (Douglas MacMillan)、大卫·奥瓦勒 (David Ovalle) 和亚伦·谢弗 (Aaron Schaffer) 指出,“75 个部门使用面部识别技术,其中 40 个部门共享导致逮捕的案件记录。其中 17 人未能提供足够的细节来辨别官员是否试图证实”。
其余23个部门中有详细记录,他们发现“跨越 12 个州的 15 个部门逮捕了通过人工智能匹配识别的嫌疑人,但没有任何独立证据将他们与犯罪联系起来。”
此外,“一些使用该技术的执法人员似乎放弃了传统的警务标准,并将软件建议视为事实。”
“自动化偏差”是一个问题;警察工作松懈也是如此
该报告详细分析了警方在八个已知的失败事件中的失误,其中包括未能检查不在场证明和公然无视嫌疑人的身体特征(后者是孕妇的情况)。趋势很明显,《华盛顿邮报》表示这些例子“可能只是问题的一小部分”。
这篇文章引用了纽约大学法学院警务项目参谋长凯蒂·金赛 (Katie Kinsey) 的话,几乎没有抓住自己的要点,她指出:“在使用清晰对比照片的实验室测试中表现近乎完美”,但尚未接受“现实世界中该技术在警方通常如何使用该技术的准确性方面的独立测试——监控图像质量较低,警察从一个候选人中挑选一名候选人”。可能的匹配列表。”
金赛说,正因为如此,很难知道软件出错的频率。
但她的指责是错误的。正如《华盛顿邮报》的调查所表明的那样,这并不是通常会出错,但警察。报告指出,研究表明“使用人工智能工具的人可能会屈服于‘自动化偏见’,即盲目信任强大软件做出的决策,而忽视其风险和局限性。”
如果说有什么不同的话,那就是该软件的功能太出色了。颗粒状的可疑图像贯穿其中因为照片阵容很可能会找到与嫌疑人非常相似的人。爱荷华州立大学研究错误目击证人身份的心理学家加里·威尔斯表示,在这种情况下,当向受害者展示这些照片时,他们很有可能制作身份证件,即使它是假的。
ACLU:人工智能起草警方报告不是一个好主意
解决这个问题取决于支撑更大的全球生态系统的相同关键要素:监管和信任。然而,谁来监管警察是一个超越生物识别技术的问题。
最近的一个报告美国公民自由联盟 (ACLU) 指出,“警察部门正在采用使用人工智能为警官起草警察报告的软件产品”,并表示这是一个非常糟糕的主意:“人工智能有许多潜在功能,但没有理由用它来取代人工智能的创造警官主观经验的记录。”
其他组织也对当地可能发生侵犯公民权利和人权的行为表示担忧。,包括 DEA 和 FBI 的生物识别面部识别。
以及一份长达 137 页的联邦联合机构报告根据美国国土安全部 (DHS)、司法部 (DOJ) 和白宫科技政策办公室的说法,本月发布的《生物识别技术的双重影响》提出了生物识别技术的双重影响。
在每种情况下,技术都是人类决策的推动者。为了,有管理其使用的标准、测试和认证。规范人类行为要困难得多,尤其是那些掌握权力的人。算法有其缺陷,但它们通常比人类更容易预测,并且在某人的自由受到威胁时不太可能跳过一两步。
文章主题
||||||||