教授弗雷澤桑普森，前英國生物識別和監控攝像頭專員
行政命令 (EO) 直接出自總統之筆，是一種非常個性化的立法形式。甚至有一部好萊塢大片以這種強大的法律手段命名，而英國沒有類似的手段（沒有人會製作一部名為《2024 年數字政府（信息披露）（身份驗證服務）（修正案）條例》的電影）。
如果特朗普政府的第一天不辜負其承諾，下一次 EO 公告將會大張旗鼓地到來，但生物識別界應該保持警惕的是有點沉默的 #14074。
第 14074 號行政命令由拜登總統於 2022 年 5 月發布，旨在推進有效、負責任的警務工作，增強公眾信任和安全。聯邦機構上個月發布的一份聯合報告回顧了美國所有執法機構如何根據該行政命令的條款使用生物識別技術。該報告詳細分析了利益相關者對聯邦生物識別技術的看法，以及警務中面部識別技術（FRT）的一套“最佳實踐”。
這兩份文件都附有一個關鍵內容：問責制。英國可能沒有行政命令，但它在很大程度上分享了報告中提出的一些生物識別挑戰，以及在人工智能驅動的警務能力領域問責的必要性。儘管憲法存在差異，但兩國警察局長目前都因兩個實際問題而團結在一起：“人工智能生物識別技術的責任是什麼樣的？”以及“我們如何實現它？”
從英國方面來看，研究人員相信他們已經找到了這些問題的答案，聯邦報告的作者將會對此感興趣。警察和學術聯合項目借鑒了警官和工作人員的集體經驗，並對來自歐洲、北美及其他國家的 6000 多人進行了公民調查（AIPAS）確定了人工智能驅動技術的問責指標。該團隊還構建了一個軟件工具來幫助警察機構根據這些原則審核他們的政策和實踐。
結合聯合聯邦報告和 AiPAS 的主題，執法中人工智能驅動的生物識別技術的問責基礎如下：
守法（遵守法律）。人工智能生物識別技術的所有方面都必須合法，而證明其合法性的責任由警方承擔。這包括遵守人工智能特定法規（例如歐盟人工智能法案）、EO 和組織政策。合法性適用於任何情況。其餘均屬合法加。
完整性（什麼都不留）。人工智能驅動的生物識別技術是多合作夥伴計劃，責任應涵蓋從採購到部署的一切，包括合作夥伴和分包商。在存在差距的地方，應優先保護和促進基本權利和自由。
包容性（不留任何人）。讓所有參與人工智能係統並受其影響的利益相關者參與進來。通過利益相關者的廣泛參與、制定政策、審查部署和尋找學習點，建立多樣性並減少潛在的偏見。
透明度（開放）。透明度可以促進公眾的信任和信心，使受影響的人能夠做出明智的判斷。問責制需要有關人工智能生物識別系統的清晰、有意義、準確和及時的 (CMAT) 信息（受操作敏感性影響）。說明為什麼使用該系統是必要且適當的，強調可預見的風險。
公正性（賦予獨立性）。問責機構應保持公正，不存在利益衝突。外部問責制——法院和監管機構——具有內在的這一點。在內部，負責人工智能生物識別技術的人員應該獨立於參與其設計、開發和部署的人員的直線管理結構。
證明（遵循證據）。警察知道如何捕獲、分析和提供證據。問責證據應在完整性、可信度和連續性方面反映操作證據收集的標準，反映使用決策的影響——以及不是 使用 – 可用的人工智能生物識別技術。
可執行性和補救措施（讓它正確）。如果沒有“那又怎樣？”，責任就只是裝飾性的。問責機制必須為人們提供有效的補救措施，包括投訴和質疑的途徑、內部可執行性和補救措施。
可強迫性（讓它發揮作用）。監督機構必須有手段使問責制發揮作用。外部強制力來自法律或民主程序，而內部政策應授權採取行動，而不需要法律權力。
可解釋性（描述、展示、揭秘）。參與者/觀眾必須理解人工智能生物識別技術。從技術角度解釋系統是一回事，但從技術角度解釋系統是一回事。用非技術語言來理解它，以便公民及其代表能夠理解、參與和挑戰它的使用，這是困難但重要的。
建設性（追求更好）。問責不僅僅是批評。帶著共同的改進目標建設性地參與、考慮不同的觀點並邀請挑戰將揭示分歧如何能夠帶來有益的解決方案。
執行（對自己負責）。 《歐洲警察道德守則》規定：“民主的狀況往往可以通過檢查警察的行為來確定”。警察的“行為”將越來越多地包括個人和組織人工智能技術的使用，涉及包含誠信和道德的專業標準、價值觀和預期行為。
學習（找課）。通過應用（新）知識和見解，促進在各個方面改進人工智能的意願。應用於設計、使用和對人工智能生物識別的監督，學習包括系統、結構、實踐、流程、知識和資源的修改和改進，以及專業學說、標準和政策的製定。
AiPAS 團隊已主動提出與聯邦聯合機構分享他們的方法、調查結果和合規工具，並將在 1 月 20 日之後仔細聆聽白宮的情緒音樂。
無論 EO 14074 的結果如何，人工智能驅動的生物識別技術在執法中的使用將比我們所有人更長久。 FRT 等功能將提高警察效率，增強全球公眾的信任和安全如果我們在問責的旗幟下工作，以確保我們的自由得到祝福。執法部門之間的持續合作也將體現另一項著名的總統紀念活動：眾志成城。
關於作者
弗雷澤·桑普森 (Fraser Sampson)，前英國生物識別和監控攝像頭專員，現任英國倫敦大學治理與國家安全教授中心（恐怖主義、復原力、情報和有組織犯罪研究卓越中心）和非執行董事。
文章主題
||||||
