L'IA司法失误要承担责任吗？如果这个故事没有进入审判阶段，居住在佐治亚州的美国人兰德尔·里德（Randal Reid）仍然意味着要入狱一周。那天下午，这位 29 岁的人告诉我们的同事纽约时报感恩节后的第二天，交通分析师驾驶着他的白色吉普车前往他母亲的公寓。到目前为止，没有任何异常：他相信自己的驾驶没有过度，“不做任何疯狂的事情“，他回忆道。就在那时，他因他认为只是一次简单的交通堵塞而被捕。
由于无法提供被遗忘在家中的驾驶执照，这位近三十岁的男子发现自己在几分钟后被戴上手铐并被装进了一辆车。警察。因为当特工快速搜查车辆登记时，他发现了两张逮捕令，并认为他正在与一名逃犯打交道。
人脸识别软件错误
«为什么我会被带走？我被指控什么？兰德尔·里德问道。面对这些疑问，民警只是简单地向他解释，有两点：因他在路易斯安那州犯下的罪行而对他发出逮捕令。问题：他从未去过这个距离亚特兰大700多公里的州。他的父母聘请了律师，花费了数千美元，竭尽全力试图让他们的儿子摆脱这种令人难以置信的处境。后者只有在被捕几天后才会知道逮捕令的原因。她被指控使用偷来的信用卡购买名牌手袋。
警方花了六天的时间才最终了解到，这名近三十岁的男子看起来非常像被拍摄到的嫌疑人。监控摄像头。他的被捕是几个错误的结果，从第一个错误开始，是由……面部识别软件造成的。因为确实是人工智能在监控视频中错误地识别了他。第二个问题：警方的官方文件中没有提及人工智能的识别。不，相反，它说嫌疑人的身份是通过“可靠来源 »由负责该案件的官员负责。
这名年轻人被无罪释放，因为嫌疑人的手臂比他大
这一误会被年轻人父母聘请的路易斯安那州律师发现。当后者得知他的客户被指控盗窃了两个 Chanel 手袋和一个棕色 Louis Vuitton 包（总价值近 13,000 美元）时，专业人士前往盗窃发生的地点。这时，经理给他看了监控录像，他发现其中一名嫌疑人看起来很像他的客户。
律师随后了解到，逮捕令的来源正是这段视频——面部识别技术并没有出现在整个程序中。这位专业人士还注意到什么可以拯救他的客户：嫌疑人的手臂比来自亚特兰大的三十岁男子更大。
基于网络上数千张面孔的搜索引擎
原文：事件发生地的市政府签订了合同与 Clearview AI 公司合作提供面部识别服务。该公司创建了一个带有搜索引擎的数据库，该数据库基于网络上可访问的数十亿张面孔（包括在社交网络上找到的面孔）。据透露，她会在没有获得第一方同意的情况下，从社交网络中提取近 300 亿张照片。英国广播公司3月27日。这解释了为什么来自亚特兰大的被告发现自己在这个基地——尽管他从未踏足过这个美国州——特别是因为他有一个 LinkedIn 和 Facebook 帐户，可以在上面分享照片。
不愿对此案发表评论的美国警方解释说，他们通常不需要在档案中提及人工智能的使用。特别是因为该技术被用作执法的支持工具。一旦确定了嫌疑人，通常就必须挖掘线索。但有时，这种深入的调查并不会进行，”警方使用面部识别专家克莱尔·加维（Clare Garvie）在接受我们的同事采访时解释道。据专家介绍，目前已知的四起无理逮捕案件都是由于认识错误和调查不充分造成的。所有涉及的人都是黑人。
被他的内奸救了
在路易斯安那州，防御工作正在组织之中。这名年轻人的律师将他当事人的照片和视频发送给当地警方。目的：证明后者不是监控录像中确定的嫌疑人。而让警察信服的并不是这个三十多岁的瘦手臂，而是他脸上的一颗痣，嫌疑人并没有。
兰德尔·里德被带到监狱六天后，他被释放出狱。他松了口气计划对错误逮捕提出申诉。他的情况是否可以作为对这项技术危险使用的警告？年轻人没有回答问题，只是说道：“想象一下，你正在过着自己的生活，但你被指控在远离家乡、在一个你从未踏足过的城市犯下罪行。”。他认为自己很幸运。幸运的是，他有能力支付律师费用并为自己辩护。但对于 Color of Change 协会主席 Rashad Robinson 来说，这是必要的“想象一下每个没有数千美元可以扔出窗外的人»。
来源 ： 纽约时报
