面部識別系統中種族偏見的挑戰正在由眾議院監督和政府改革委員會的信息技術小組委員會進行檢查,因為它考慮了指導政府對人工智能的理解和採用的方法,GCN報告。
眾議員威爾·赫德(Will Hurd)(R-Texas)在委員會製作的視頻中說:“我想達到政府在政府在何處花費或資源做出決定的地步。”考慮的應用程序包括基於AI的量刑和麵部識別系統。
四名證人在聽證會的最近一次會議上作證,所有證人都同意偏見的數據會導致有偏見的申請,但對如何避免該數據有所分歧。
佐治亞理工學院的計算學院教授兼執行副院長查爾斯·伊斯貝爾(Charles Isbell)表示,算法透明度將通過向個人告知個人的決策方式來有所幫助。艾倫人工智能研究所首席執行官奧倫·埃齊奧尼(Oren Etzioni)不同意,強調準確性的重要性。 Etzioni還建議將使用AI的消費產品貼上標籤,但英特爾副總裁兼首席技術官Amir Khosrowshahi警告不要對新技術進行監管。
NVIDIA IAN BUCK的副總裁兼總經理加速計算機表示,政府可以提供大量數據來提高AI績效。他說,去年在兩黨支持下通過國會通過國會的《開放政府數據法》將有助於實現這一目標。
如前所述,當淺層皮膚段的人口較高的面部識別系統應用於膚色較深的人群時,膚色不足。