教授弗雷澤桑普森，前英國生物識別和監視器專員
行政命令 (EO) 直接出自總統之筆，是一種非常個人化的立法形式。甚至有一部好萊塢大片以這種強大的法律手段命名，而英國沒有類似的手段（沒有人會製作一部名為《2024 年數位政府（資訊揭露）（身分驗證服務）（修正）條例》的電影） 。
如果川普政府的第一天不辜負其承諾，下一次 EO 公告將會大張旗鼓地到來，但生物辨識界應該保持警惕的是有點沉默的#14074。
第 14074 號行政命令由拜登總統於 2022 年 5 月發布，旨在推動有效、負責任的警務工作，增強公眾信任和安全。聯邦機構上個月發布的聯合報告回顧了美國所有執法機構如何根據該行政命令的條款使用生物識別技術。該報告詳細分析了利害關係人對聯邦生物辨識技術的看法，以及警務中臉部辨識技術（FRT）的一套「最佳實踐」。
這兩份文件都附有一個關鍵內容：問責制。英國可能沒有行政命令，但它在很大程度上分享了報告中提出的一些生物辨識挑戰，以及在人工智慧驅動的警務能力領域中問責的必要性。儘管憲法存在差異，但兩國警察局長目前都因兩個實際問題而團結在一起：“人工智慧生物識別技術的責任是什麼樣的？”以及“我們如何實現它？”
從英國方面來看，研究人員相信他們已經找到了這些問題的答案，聯邦報告的作者將對此感興趣。警察和學術聯合計畫借鑒了警官和工作人員的集體經驗，並對來自歐洲、北美及其他國家的 6000 多人進行了公民調查（AIPAS）確定了人工智慧驅動技術的問責指標。該團隊還建立了一個軟體工具來幫助警察機構根據這些原則審查他們的政策和實踐。
結合聯合聯邦報告和 AiPAS 的主題，執法中人工智慧驅動的生物辨識技術的問責基礎如下：
守法（遵守法律）。人工智慧生物辨識技術的所有方面都必須合法，而證明其合法性的責任由警方承擔。這包括遵守人工智慧特定法規（例如歐盟人工智慧法案）、EO 和組織政策。合法性適用於任何情況。其餘均屬合法加。
完整性（什麼都不留）。人工智慧驅動的生物辨識技術是多合作夥伴計劃，責任應涵蓋從採購到部署的一切，包括合作夥伴和分包商。在存在差距的地方，應優先保護和促進基本權利和自由。
包容性（不留任何人）。讓所有參與人工智慧系統並受其影響的利害關係人參與其中。透過利害關係人的廣泛參與、制定政策、審查部署和尋找學習點，建立多樣性並減少潛在的偏見。
透明度（開放）。透明度可以促進公眾的信任和信心，使受影響的人能夠做出明智的判斷。問責制需要有關人工智慧生物辨識系統的清晰、有意義、準確和及時的 (CMAT) 資訊（受操作敏感性影響）。說明為什麼使用該系統是必要且適當的，強調可預見的風險。
公正性（賦予獨立性）。問責機構應保持公正，不存在利益衝突。外部問責制——法院和監管機構——具有內在的這一點。在內部，負責人工智慧生物辨識技術的人員應該獨立於參與其設計、開發和部署的人員的直線管理結構。
證明（遵循證據）。警察知道如何捕獲、分析和提供證據。問責證據應在完整性、可信度和連續性方面反映操作證據收集的標準，反映使用決策的影響——以及不是 使用 – 可用的人工智慧生物辨識技術。
可執行性和補救措施（讓它正確）。如果沒有“那又怎樣？”，責任就只是裝飾性的。問責機制必須提供人們有效的補救措施，包括投訴和質疑的途徑、內部可執行性和補救措施。
可強迫性（讓它發揮作用）。監督機構必須有手段使問責制發揮作用。外部強制力來自法律或民主程序，而內部政策應授權採取行動，而不需要法律權力。
可解釋性（描述、展示、揭密）。參與者/觀眾必須理解人工智慧生物辨識技術。從技術角度解釋系統是一回事，但從技術角度解釋系統是一回事。用非技術語言來理解它，以便公民及其代表能夠理解、參與和挑戰它的使用，這是困難但重要的。
建設性（追求更好）。問責不僅僅是批評。帶著共同的改進目標建設性地參與、考慮不同的觀點並邀請挑戰將揭示分歧如何能夠帶來有益的解決方案。
執行（對自己負責）。 《歐洲警察道德守則》規定：「民主的狀況往往可以透過檢查警察的行為來確定”。警察的「行為」將越來越多地包括個人和組織人工智慧技術的使用，涉及包含誠信和道德的專業標準、價值觀和預期行為。
學習（找課）。透過應用（新）知識和見解，促進在各個方面改善人工智慧的意願。應用於設計、使用和對人工智慧生物辨識的監督，學習包括系統、結構、實踐、流程、知識和資源的修改和改進，以及專業學說、標準和政策的製定。
AiPAS 團隊已主動提出與聯邦聯合機構分享他們的方法、調查結果和合規工具，並將在 1 月 20 日之後仔細聆聽白宮的情緒音樂。
無論 EO 14074 的結果如何，人工智慧驅動的生物辨識技術在執法中的使用將比我們所有人更長久。 FRT 等功能將提高警察效率，增強全球民眾的信任與安全如果我們在問責的旗幟下工作，以確保我們的自由得到祝福。執法部門之間的持續合作也將反映另一項著名的總統紀念活動：眾志成城。
關於作者
桑普森 (Fraser Sampson)，前英國生物辨識與監視攝影機專員，現任英國倫敦大學治理與國家安全教授中心（恐怖主義、復原力、情報和組織犯罪研究卓越中心）和非執行董事。
文章主題
||||||
