一組26個“有關研究人員”呼籲亞馬遜停止在博客文章中向執法機構提供生物識別重新認知服務,以駁斥公司麻省理工學院研究人員Joy Buolamwini和多倫多大學研究人員Inioluwa Deborah Raji對批評的反應,涉及使用(或濫用使用測試圖像性別的技術)的錯誤率不平衡錯誤率。
研究人員共同簽名中期包括最近的圖靈獎獎得主Yoshua Bengio以及AWS Anima Anandkumar的前首席科學家,來自幾所大學的研究人員以及其他使用或提供面部識別技術的公司的代表,包括Google,Facebook和Microsoft。
Buolamwini告訴Phys.org她沒想到亞馬遜的反應會“敵對”。
該帖子捍衛了Buolamwini和Raji的價值研究,並在一對博客文章中批評亞馬遜的馬特·伍德(Matt Wood)和邁克爾·帕克(Michael Punke)的回應是因為歪曲了作品的技術細節。例如,根據帖子,面部識別和麵部分析技術彼此之間具有直接或間接的關係,具體取決於所使用的方法。
“(i)與伍德博士的主張形成鮮明對比的是,在一個系統中發現的偏見是另一個系統的關注,尤其是在可能嚴重影響人們生活的用例中,例如執法申請。”
研究人員指出,這項研究是在重新認知使用的背景下進行的,並具有公開可用的API,並且研究數據已公開,並且許多公司複製了研究。他們也沒有“沒有法律或標準來確保以不侵犯公民自由的方式使用重新認知”。
面部識別和麵部分析之間的區別是根據生物特徵識別和非生物測量值之間的差異來探討的,研究人員認為機器學習研究人員將識別視為一種特定類型的分析,即至少在某些情況下是一種生物識別分析。研究人員說,無論兩項服務與兩項服務有多確切相關,一個偏見的證據都會引起對另一種偏見的正當關注。研究人員還認為,伍德和普特克(Wood and Punke)的重複點是,這項技術未按照拉吉(Raji)和布拉姆維尼(Buolamwini)的研究來使用,這是不重要的,因為需要在現實世界中進行系統測試,而華盛頓縣警長辦公室(WCSO),以及已知的兩名警察部隊之一 - 已經承認,這是一項。不跟隨亞馬遜使用置信度閾值的建議。
研究人員還旨在說,拒絕製作培訓數據和測試參數的群體對亞馬遜的批評進行了批評,而亞馬遜尚未發現通過種族的性別分類差異。這性別陰影Project網站可提供數據可用的數據,但可以根據許可協議,而無法許可該數據(例如IBM和Microsoft)使用本文中的指南產生了可比的結果。此外,對於皮膚類型而言,這是一種社會結構的種族不足,這不是很重要的。
研究人員寫道:“伍德博士對這一重要區別的認識不足,同時抹黑同行審查的研究,這些研究無可否認地激發了謹慎的態度。”
亞馬遜表示支持國家立法面部識別框架,最近還更新了其重新認知模型提高了準確性。該公司還面臨與少數派的潛在斗爭股東政府使用重新認知。