由於與人工智能有關的問題,尤其是面部生物識別技術正在引起公眾和當選代表的關注,因此在世界經濟論壇(WEF)2019年在瑞士達沃斯舉行的世界經濟論壇(WEF)年度會議上進行了一些演講,探索了這些高級技術帶來的潛在利益和風險。
微軟首席執行官薩蒂亞·納德拉(Satya Nadella)在一份演講中說,面部識別提供者的自我調節很重要,本身不夠CNBC報告。
納德拉說:“我今天認為,在市場上,有競爭;正確使用與對面部識別的錯誤使用之間沒有歧視。”
Microsoft正準備提出自己的自我調節原則,正如公司總裁布拉德·史密斯(Brad Smith)概述的那樣投入運行。
“與此同時,我們也歡迎任何有助於市場的法規,這些法規無助於競賽,”納德拉說,這最終可能導致更為嚴格的法規。納德拉(Nadella)稱GDPR為“奇妙的開始”,但建議需要全球法規。
簡單的偏見
麻省理工學院研究員Joy Buolamwini告訴聽眾在她研究之後準確性差異在面部生物識別系統之間匹配具有不同膚色的主題的面部生物識別系統已發送給IBM,該公司急劇改進它的算法。在新測試,Buolamwini發現深色皮膚雄性的準確性從88%提高到99.4%,而黑皮膚女性的準確性從65.3%提高到83.5%。淺皮膚女性的準確性提高了92.9%,至97.6%,而對較輕的男性則保持在97%。
“因此,對於每個觀看我的Ted談話的人來說,'不是因為物理學而沒有發現您的原因是物理學?您的皮膚反射率,對比,等等,' - 物理定律在2017年12月進行研究時沒有改變,當我進行研究時,以及2018年,當他們推出新結果時,” Buolamwini說。 “改變的是他們將其作為優先事項。”
她還指出,無論技術的效率如何,人們做出的使用決定仍然可能產生不必要的結果,就像紐約市警察局使用的時候一樣IBM面部識別多年沒有透露它。這就是為什麼Buolamwini呼籲企業接受安全的面部承諾負責任地使用面部識別。
雅虎財務報導稱,WEF和LinkedIn的2018年全球性別差距報告顯示,在AI上工作的人中只有22%是女性,LinkedIn產品的聯合創始人和副總裁Allen Blue表明,面部識別系統中觀察到的偏見源於工程團隊中發展她們的多樣性。
重量級面板權衡面部識別優勢和風險
由首席執行官,聯合創始人兼Insider Inc.的編輯總監Henry Blodget主持了針對面部識別的重量級小組討論,該討論發表了Business Insider。世界經濟論壇第四工業革命的人工智能和機器學習主管Kay Firth-Butterfield,人權觀察執行董事肯尼斯·羅斯(Kenneth Roth),歐洲議會瑪麗埃傑·沙克(Marietje Schaake)和微軟的布拉德·史密斯(Brad Smith)作為小組成員。
羅斯開始了他的言論,即承認面部識別對各種用例的價值,然後暗示必須在發生重大潛在的負面影響之前就必須制定法規,部分原因是這樣做可能會更加困難。然後,他指出,即使在公共場合,人們也可以承擔某種程度或類型的匿名性,因為在擁擠的城市環境中跟踪一個人,周圍有許多人是非常不切實際的。法律通常不承認公眾的隱私權,但羅斯認為它可能必鬚髮展。
Shaake指出,由於面部識別技術的水平已經達到,Roth的假設已經不安全,並且數據的交叉使用需要被視為同一問題的一部分。
沙克說:“雖然我認為我們進行討論很重要,但我們不應該假裝自己可以領先於曲線。” “它已經在那裡了,我希望我們能早點進行討論。”
Firth-Butterfield指出,在她的人權工作中,她在與人口販運作鬥爭時看到了面部識別技術的重大好處。同時,她特別關心在兒童玩具中使用AI和麵部識別,並指出此類用例引起了人們對從公共技術到私人空間的技術的擔憂。
微軟因其積極的立場而繼續受到榮譽,但是面部識別的調節鬥爭以及潛在的其他生物識別或AI應用程序才剛剛開始。