紐約洛克波特學區購買的面部識別系統比其供應商所聲稱的人口統計學之間的性能差異更大,其武器檢測功能已返回了一大批虛假警報,副主板報告。
主板上獲得的文件顯示,黑人學生被誤認為比供應商SN技術更頻繁地對地區官員建議。
宙斯盾系統還將掃帚手柄誤認為是槍支,以及其他性能問題。鑑於該系統會自動提醒警察是否發現學校中的武器,因此一位當地父母告訴出版物,這是一個悲慘的誤解的機會,遠遠超出了阻止學校中發生暴力事件的目標的機會。
洛克波特學區打開了宙斯盾系統今年年初在紐約州教育部(NYSED)扭轉了較早的決定阻止發射的決定之後,等待一系列政策變更。
州議會通過了兩年暫停關於該技術在學校中的新實施。
主板顯示SN Technologies首席執行官KC Flynn收到的電子郵件告訴地區官員2019年8月ID3技術AEGIS使用的算法在NIST測試中的種族偏見中排名第49位。
NIST生物識別測試負責人帕特里克·格羅特(Patrick Grother)告訴母板:“這些數字與我們的數字不符。它們甚至還沒有接近。
Grother還反對說,Flynn計算的生物識別準確性的解釋是“荒謬的”,並說他在2019年接觸時警告了不一致學區的律師。
會計師事務所釋放了麥克斯克(Maxick)被該地區聘請審計SN Technologies的主張,並報告說,ID3算法對黑人男性誤解了四倍,而黑人婦女的頻率比白人男人高16倍,儘管SN Technologies聲稱這些誤解分別是2和10倍的共同常見。該系統還生產了一系列假陽性武器檢測,促使SN技術構建了新的掃帚手柄數據庫,並進行了更新的軟件。
地區和警察局拒絕向主板提供有關該系統歸因的可能發生或錯誤警報的信息。
NYCLU是支持父母進行訴訟反對面部識別和武器檢測部署,並表示其他地區正在嘗試採購類似技術,而沒有適當的保障措施。
同時,第十修正案中心據報導,紐約州長安德魯·庫莫(Andrew Cuomo)尚未簽署該法案,儘管該法案在7月份通過州議會通過了州立法機關,但仍在學校中使用面部識別。
該法案以118-21的投票通過了州議會,參議院以46-14的投票通過,現在由40多個組織組成的聯盟(包括第十個修正案中心)正在推動Cuomo簽署它。該聯盟還包括NYCLU,向Cuomo發送了一封信敦促他行動在八月。