L'IA司法失誤要負責嗎？如果這個故事沒有進入審判階段，居住在喬治亞州的美國人蘭德爾·里德（Randal Reid）仍然意味著要入獄一周。那天下午，這位 29 歲的人告訴我們的同事紐約時報感恩節後的第二天，交通分析師駕駛他的白色吉普車前往他母親的公寓。到目前為止，沒有任何異常：他相信自己的駕駛沒有過度，“不做任何瘋狂的事情“，他回憶道。就在那時，他因他認為只是一次簡單的交通堵塞而被捕。
由於無法提供被遺忘在家中的駕駛執照，這位近三十歲的男子發現自己在幾分鐘後被戴上手銬並被裝進了一輛車。警察。因為當特工快速搜查車輛登記時，他發現了兩張逮捕令，並認為他正在與一名逃犯打交道。
人臉辨識軟體錯誤
«為什麼我會被帶走？我被指控什麼？蘭德爾·里德問。面對這些疑問，警方只是簡單地向他解釋，有兩點：因他在路易斯安那州犯下的罪行而對他發出逮捕令。問題：他從未去過這個距離亞特蘭大700多公里的州。他的父母聘請了律師，花了數千美元，竭盡全力試圖讓他們的兒子擺脫這種令人難以置信的處境。後者只有在被捕幾天後才會知道逮捕令的原因。她被指控使用偷來的信用卡購買名牌手袋。
警方花了六天的時間才最終了解到，這名近三十歲的男子看起來非常像被拍攝的嫌疑犯。監視器。他的被捕是幾個錯誤的結果，從第一個錯誤開始，是由…臉部辨識軟體造成的。因為確實是人工智慧在監視影片中錯誤地辨識了他。第二個問題：警方的官方文件中並沒有提及人工智慧的識別。不，相反，它說嫌疑人的身份是通過“可靠來源 »由負責該案件的官員負責。
這名年輕人被無罪釋放，因為嫌疑人的手臂比他大
這項誤會被年輕人父母聘請的路易斯安那州律師發現。當後者得知他的客戶被指控盜竊了兩個 Chanel 手袋和一個棕色 Louis Vuitton 包（總價值近 13,000 美元）時，專業人士前往盜竊發生的地點。這時，經理給他看了監視器錄影，他發現其中一名嫌疑犯看起來很像他的客戶。
律師隨後了解到，逮捕令的來源正是這段影片——臉部辨識技術並沒有出現在整個程序中。這位專業人士還注意到什麼可以拯救他的客戶：嫌疑人的手臂比來自亞特蘭大的三十歲男子更大。
基於網路上數千張臉的搜尋引擎
原文：事件發生地的市政府簽訂了合約與 Clearview AI 公司合作提供臉部辨識服務。該公司創建了一個帶有搜尋引擎的資料庫，該資料庫基於網路上可存取的數十億張臉（包括在社交網路上找到的面孔）。據透露，她將在沒有第一方同意的情況下，從社交網路中提取近 300 億張照片。英國廣播公司3月27日。這解釋了為什麼來自亞特蘭大的被告發現自己在這個基地——儘管他從未踏足過這個美國州——特別是因為他有一個 LinkedIn 和 Facebook 帳戶，可以在上面分享照片。
不願對此案發表評論的美國警方解釋說，他們通常不需要在檔案中提及人工智慧的使用。特別是因為該技術被用作執法的支援工具。一旦確定了嫌疑人，通常就必須挖掘線索。但有時，這種深入的調查並不會進行，」警方使用臉部辨識專家克萊爾·加維（Clare Garvie）在接受我們的同事採訪時解釋道。根據專家介紹，目前已知的四起無理逮捕案件都是因為認識錯誤和調查不充分造成的。所有涉及的人都是黑人。
被他的內姦救了
在路易斯安那州，防禦工作正在組織中。這名年輕人的律師將他當事人的照片和影片發送給當地警方。目的：證明後者不是監視器錄影中確定的嫌疑犯。而讓警察信服的並不是這個三十多歲的瘦手臂，而是他臉上的一顆痣，嫌疑犯並沒有。
蘭德爾·里德被帶到監獄六天后，他被釋放出獄。他鬆了口氣計劃對錯誤逮捕提出申訴。他的情況是否可以作為對這項技術危險使用的警告？年輕人沒有回答問題，只是說：「想像一下，你正在過著自己的生活，但你被指控在遠離家鄉、在一個你從未踏足過的城市犯下罪行。」。他認為自己很幸運。幸運的是，他有能力支付律師費用並為自己辯護。但對於 Color of Change 協會主席 Rashad Robinson 來說，這是必要的“想像一下每個沒有數千美元可以丟出窗外的人»。
來源 ： 紐約時報
