巴西充滿活力的金融中心聖保羅正準備部署20,000個面部識別攝像機,旨在提高公共安全。但是,民權組織正在引起人們的擔憂,即該項目可以針對弱勢人口,因為該市正在等待最終批准競標,即每月運行價值920萬巴西皇家公司(約合190萬美元)的系統。
據據稱,只有在紐約市完成評估後才能批准。S.Paulo Folha。半島電視台報告說獲勝的出價是巴西諮詢公司PK9。
互聯網和社會研究所(IRIS)的數字權利律師和研究協調員Fernanda Rodrigues(IRIS)告訴半島電視台稱該項目被稱為Smart Sampa,由於誤報率很高,因此可以推動黑人個人的大規模監禁。一個學習2019年,由公共安全和公民身份研究中心(CESEC)在2019年進行的表明,通過基於巴西面部識別的決定被捕的個人中有90.05%是黑人。這項研究研究了那年的151人。未提供有關虛假匹配的要求的信息。
Rodrigues說:“除了提供給這些平台的信息可能不准確並且系統本身可能失敗的風險之外,還有一個問題在技術含義之前,即種族主義。”
長期以來,該市有1200萬人所在城市的民間組織一直在與面部識別技術的部署作鬥爭。
聖保羅政府通過對技術的影響進行了研究,通過對Smart Sampa招標更新了一些批評,該批評承認了隱私和數據風險以及偏見的很高可能性。該報告承諾將採取措施,例如僅考慮90%匹配的檢測,包括訓練有素的循環中的人,以及增加數據保護和網絡安全,這將符合一般數據保護定律。
權利組織試圖防止系統推出。
五月地方法院推翻了法律暫停關於數據保護和種族偏見問題的計劃的採購。該市聲稱沒有證據表明監視系統會增加歧視。
同月,聖保羅每月從一個未知的運營商中選擇了190萬美元的競標來運行Smart Sampa項目及其最初的20,000台相機。下一階段是測試系統。如果確認要約,該市將為60個月內的項目總共支付該項目的5.52億巴西皇家款項(約1.151億美元)根據致聖保羅佛羅報紙。
Smart Sampa因缺乏透明度而面臨CESEC和其他非營利組織的其他投訴。這些團體已經針對政府提起了許多法律訴訟,包括公共辯護人辦公室於5月發起的民事訴訟。案件要求暫停該項目,並停止使用面部識別系統進行城市安全。
聖保羅有已經部署了其一個地鐵線上的面部識別安全系統。城市政府一直在巴西其他地方推出面部識別技術,包括使用它識別支持者前總統雅爾·博爾森羅(Jair Bolsonaro)於今年1月與巴西利亞的警察發生衝突。