幾位研究人員告訴加拿大立法者,個人和社會面部識別使用的風險很重要,應在聽證會中盡可能廣泛地考慮。自由修補。目擊者反复爭辯說,對面部識別的危害,其工作原理以及如何失敗的危害還不夠。
聽證會是加拿大政府議會訪問信息,隱私和道德檢查面部識別技術的使用和影響的一部分。
委員會主席帕特·凱利(Pat Kelly)在4月初會議上呼籲加拿大和其他地方的學者和技術專家,包括未來主義者桑傑·卡納(Sanjay Khanna)。
從認知科學的角度來看,委員會聽說,人們對熟悉的面孔的認可對於人們來說相對容易。有了不熟悉的面孔,任務要困難得多。
“人類在識別陌生的面孔方面的表現令人驚訝,”英國約克大學的羅伯特·詹金斯(Robert Jenkins)博士說,即使在良好的條件下以及訓練有素的專業人士中。他認為,必須在不熟悉的面孔的背景下檢查該技術。隨著循環中的人們對識別做出最終決定,除了算法的不完美之外,人為錯誤被“烘烤到系統中”。
在法律背景下,透明度對局限性非常重要。
演示者還強調了個人了解和控制對他們和立法者對面部識別的使用的能力,以期預測未來的政策影響,生物特徵識別培訓數據集的起源和質量,即2018性別陰影研究AI面部分析系統中的人口偏見,以及如何將技術整合到社會技術環境中。儘管進行了廣泛討論,但仍未提及有關該主題的最新研究。
在前十分鐘內提出了情感分析,然後是其他技術,如果與面部識別結合使用,可能會造成傷害。
普林斯頓大學博士研究員安吉麗娜·王(Angelina Wang)說:“科學尚不知道如何解決”面部識別問題是“殘酷和解釋性”的問題。殘酷性是“這些面部識別模型可以崩潰的已知方式,允許不良行為者繞過和欺騙模型”,例如對抗性攻擊,並且與可解釋性有關。
根據王的說法,缺乏解釋性的部分問題是使用“虛假相關性”來執行匹配。
CIPT博士後研究員伊麗莎白·安妮·沃特金斯(Elizabeth Anne Watkins)專門談到了面部驗證,這在加拿大更為普遍。沃特金斯說,面部驗證越來越多地部署在工作場所,造成危害。
沃特金斯於2021年發表了一篇論文'信息正義與安全之間的張力:面部識別目標的看法。 '
這些危害包括對存儲其個人數據的擔憂,重複驗證和虛假匹配的不便,以及找到足夠的條件以執行生物識別匹配。
根據沃特金斯的說法,暫停是必要的,與此同時,應對算法影響評估的監管要求和減少欺詐的證明。
立法者詢問了人類操作員和生物識別算法的相對錯誤率,面部或指紋,人們和算法遇到的錯誤類型,攝像機技術的局限性以及框架政府可以藉鑑政策。
在證詞期間有片刻似乎表明了關於加拿大執法人員如何使用面部識別的不確定性,目擊者在很大程度上承認他們不知道採取行動以建立對其他司法管轄區使用面部識別的行動。
證人的進一步建議包括建立有關面部識別的專家勞動力,並遵循伊利諾伊州的生物識別信息隱私法的模型,以使企業對企業的責任收取同意,而不是個人選擇不使用其生物識別技術。
討論多次將討論置於預測算法中,但演示者反復強調有必要對與面部識別有關的問題進行整體看法,以及圍繞其使用的上下文。
在相關認罪中,加拿大隱私專員丹尼爾·塞里恩(Daniel Therrien)敦促立法者通過新的立法,並建立基本的隱私權雜誌OC。