我們需要更多的生物識別標準嗎? IBM是正確的舉動嗎撤回其面部識別技術從美國執法部門使用?絕大多數人認為IBM樹立了正確的榜樣,但35%的人不同意身份的婦女有關生物識別技術,隱私和排斥的網絡研討會。
雖然一位與會者認為這是“反對警察進行嚴格的大規模監視的聲明”,其他人可能認為IBM退出了,因為這沒有產生預期的收入。
黛比·雷諾茲(Debbie Reynolds),身份婦女的數據隱私官,以及創始人兼首席隱私官黛比·雷諾茲諮詢公司,只要在道德上應用技術,就支持技術,但是她認為,不應允許計算機自己做出最終決定,因為人類應該是最終的決策者。
雷諾(Reynolds)認為,面部識別不會很快消失,但是,知道系統中存在偏見,公司應該專注於進一步改善技術。 “那麼,我真正想看到的是,而不是說他們將停止使用或停止發展[面部識別],而是要做什麼來改善它?”雷諾茲問小組。
Keren Weitzberg博士是倫敦大學學院的研究人員和教學研究員,其工作以東非為中心,他擔心如何在以色列和巴勒斯坦部署以前的部署後如何使用生物識別面部識別。魏茨伯格認為,技術的實際使用和預防濫用的法規應該具有更高的透明度。她說:“當然,它們在執法方面可能會有一些積極的用途,但實際上,我還沒有看到很多例子。”
小組同意,大多數問題與某些面部識別技術中遇到的內置偏見有關,如民間社會和隱私權組織(例如算法正義聯盟。 Weitzberg稱IBM的立場“有些不明智”,因為該公司“這些技術不是這些技術的主要提供商之一,也是美國警察部門,而且它們確實為警察提供了其他類型的智能技術。”魏茨伯格問,這種偏見如何影響人群?
儘管面部識別僅在少數非洲國家中很受歡迎,但韋茲伯格同意雷諾的同意,即面部識別技術“趕上了政策和法規領先”。雷諾認為,當這些技術與身份系統集成在一起時,問題是它們是為每個公司的客戶群培訓和開發的。意思是“對於非常狹窄的人”,很難在世界範圍內實施。雷諾茲指出:“這只是行不通。”
儘管生物識別技術和麵部識別通常可以互換使用,但術語仍然存在顯著差異。艾瑪·林德利(Emma Lindley),身份共同創始人和董事總經理AIID全球。用戶經常將面部識別與監視攝像機和缺乏同意相關,或者俱有對訪問銀行帳戶的訪問的生物識別。當被問及生物識別技術和麵部識別之間的差異時,雷諾(Reynolds)並沒有將兩者分開,因為“他們對我們自己非常個人”和“他們被融入了不同類型的身份系統”。
韋茲伯格認為,生物識別技術實際上涵蓋了不同情況下使用的“全部技術”,認為在使用面部識別方面存在主要差異,可以將手機解鎖“從警察依靠大型的面部圖像數據庫中,並參與了大規模監控的人,沒有人的同意”。當使用敏感數據運行時,總是存在一個問題,即隱私和安全性如何受到影響。
回到身份系統,林德利認為當前的景觀並不代表應該使用這些系統的人們。無論是因為他們的性別,種族,種族,性認同,年齡,宗教或社會地位,都有大量代表人數,他們應該使用無法完全滿足其需求的服務。
國家標準技術研究所(NIST)詢問有關其數字身份指南的反饋檢查他們是否滿足消費者的要求。儘管95%的網絡研討會受眾認為需要更多的行業標準,但雷諾茲指出,尚未解決有關道德規範的標準,並且重點通常放在技術標准上。這是一個問題,因為並非所有人都在數字上識字,但是他們仍然必須了解他們正在使用的系統和技術。
魏茨伯格說,最近在非洲國家的無銀行和無證件社區提供數字身份和金融服務方面有很多噪音,但她已經親眼目睹了“政府組織中,政府公司確實確實對非洲用戶的看法非常平坦,並且通常不認識到整個非洲國家都有巨大的差異,而跨越了整個全球範圍。
Weitzberg擔心用戶沒有足夠的識別,因為在開發身份系統時,多樣性頻譜被忽略了。在某些情況下,同意似乎被忽略了,就像肯尼亞的生物識別註冊計劃一樣在法庭上受到挑戰在許多肯尼亞人感到壓力之後。
民間社會團體和積極參與該過程的社區參與可能會有所幫助,但是Weitzberg懷疑會有一個沒有缺陷的系統,這可能與“大規模權力失衡”期間的排除或同意有關。例如,難民可以覺得他們別無選擇,只能提供信息,因為他們處於脆弱的境地。她提出的另一個問題是需要註冊的未成年人,在民間社會組織確實可以有所作為的情況下。
雷諾茲指出,世界上將近一半的人口沒有智能手機,而57%的人口沒有互聯網訪問。考慮到針對智能手機開發的接觸跟踪應用程序,在身份生態系統中非常需要教育,以確保即使是沒有數字識字的人也可以訪問並了解如何使用這些系統。為了實現這一目標,參與建設它們的公司和政府需要共同努力並幫助教育人們前進。