亞馬遜不僅僅是一家電子商務或雲端託管巨頭。他還開發了向所有人開放的智慧影像分析軟體，偵察，特別被警察部門和美國政府機構用來識別和追蹤視訊監控攝影機拍攝的人。該系統的臉部辨識功能如今在美國引起了激烈爭議。
有色人種政客人數過多
他實際上被指控ACLU（美國公民自由聯盟）不可靠。後者將所有國會議員的照片提交給 Rekognition，並將其與罪犯資料庫進行比較。令人驚訝的是，軟體錯誤地建立了 28 個匹配項。被濫用的美國代表包括男性和女性、共和黨人和民主黨人、各個年齡層和來自美國各個地區的人。相比之下，僅佔國會議員 20% 的有色人種卻出現在 40% 的結果中。
對於美國公民自由聯盟來說，結論很明顯：該軟體對有色人種男性的識別能力不如白人，因此存在偏見。考慮到可能因此被錯誤懷疑而對人們的生活造成的嚴重後果，她呼籲執法部門暫停使用臉部辨識技術。她引用了俄勒岡州的一個案例，其中 Amazon Rekognition 已經被用來將人臉與司法警察照片資料庫進行比較，而此前並未引發公眾辯論。
“在充分考慮其危害並採取一切必要措施防止其傷害弱勢社區之前，不應使用該技術”，我們可以在協會的官方網站上看到。
使用 Rekognition 的準確率應該達到 99%
這亞馬遜回應沒多久。該公司普遍批評美國公民自由聯盟沒有提供其實驗背景的詳細資訊。更具體地說，她強調錯誤匹配只會是使用錯誤參數獲得的誤報。所要求的可靠性實際上只有80%。可接受用於識別應用程式中照片中的名人或家庭成員。但亞馬遜建議在識別敏感情況下的某人時僅考慮 99% 的準確率。透過複製 ACLU 測試而不是基於 99% 的測試結果，亞馬遜聲稱沒有任何錯誤。但他沒有提供反調查的證據。
此外，該組織強調，其軟體只是一種決策輔助工具，絕不構成最終證據。總是由使用它的人做出選擇。最後，該公司對沒有更多地了解 ACLU 使用的比較資料庫感到遺憾，後者可能被扭曲並導致了這些錯誤的答案。亞馬遜最後提醒說，它正在不斷改進其係統，機器仍然是識別個人身份的最佳方式，目擊者的可靠性低於軟體。
我們將首先反駁亞馬遜的論點。目前，用戶還沒有義務將可靠性提高到如此程度來使用該軟體。這也許就是該公司在溝通末尾這段神秘的段落中所指的內容。「我們不應該丟掉烤箱，因為溫度設定不正確可能會烤焦披薩。然而，政府介入並規定執法機構開展安全工作必須達到的溫度（或置信水平）是合理的。。亞馬遜呼籲政府乾預的情況並不常見。
白人男性更容易被認可
然而，這並不能改變一個更根本的問題。去年二月，一麻省理工學院媒體實驗室研究透過測試微軟、Google、Face++ 和 IBM 的工具，證明臉部辨識對白人男性更有效。原因很簡單，因為電腦經過更多的訓練，可以辨識白人男性，而不是女性或黑人。訓練資料庫存在偏見，如今的軟體效能也受到了影響。我們現在正在等待對 Rekognition 進行更嚴格的學術研究，以驗證它不會在不知情的情況下產生偏見的結果。
這並不是該軟體第一次成為爭議話題。去年 6 月，員工向傑夫貝佐斯 (Jeff Bezos) 發送請願書，對 AWS 雲端服務以及這項著名的臉部辨識工具可能被川普政府用來間接追蹤移民感到憤怒。由於這些原因，股東和民權組織也要求亞馬遜停止與政府做生意。
