教授弗雷泽桑普森，前英国生物识别和监控摄像头专员
行政命令 (EO) 直接出自总统之笔，是一种非常个性化的立法形式。甚至有一部好莱坞大片以这种强大的法律手段命名，而英国没有类似的手段（没有人会制作一部名为《2024 年数字政府（信息披露）（身份验证服务）（修正案）条例》的电影） 。
如果特朗普政府的第一天不辜负其承诺，下一次 EO 公告将会大张旗鼓地到来，但生物识别界应该保持警惕的是有点沉默的#14074。
第 14074 号行政命令由拜登总统于 2022 年 5 月发布，旨在推进有效、负责任的警务工作，增强公众信任和安全。联邦机构上个月发布的一份联合报告回顾了美国所有执法机构如何根据该行政命令的条款使用生物识别技术。该报告详细分析了利益相关者对联邦生物识别技术的看法，以及警务中面部识别技术（FRT）的一套“最佳实践”。
这两份文件都附有一个关键内容：问责制。英国可能没有行政命令，但它在很大程度上分享了报告中提出的一些生物识别挑战，以及在人工智能驱动的警务能力领域问责的必要性。尽管宪法存在差异，但两国警察局长目前都因两个实际问题而团结在一起：“人工智能生物识别技术的责任是什么样的？”以及“我们如何实现它？”
从英国方面来看，研究人员相信他们已经找到了这些问题的答案，联邦报告的作者将会对此感兴趣。警察和学术联合项目借鉴了警官和工作人员的集体经验，并对来自欧洲、北美及其他国家的 6000 多人进行了公民调查（AIPAS）确定了人工智能驱动技术的问责指标。该团队还构建了一个软件工具来帮助警察机构根据这些原则审核他们的政策和实践。
结合联合联邦报告和 AiPAS 的主题，执法中人工智能驱动的生物识别技术的问责基础如下：
守法（遵守法律）。人工智能生物识别技术的所有方面都必须合法，而证明其合法性的责任由警方承担。这包括遵守人工智能特定法规（例如欧盟人工智能法案）、EO 和组织政策。合法性适用于任何情况。其余均属合法加。
完整性（什么都不留）。人工智能驱动的生物识别技术是多合作伙伴计划，责任应涵盖从采购到部署的一切，包括合作伙伴和分包商。在存在差距的地方，应优先保护和促进基本权利和自由。
包容性（不留任何人）。让所有参与人工智能系统并受其影响的利益相关者参与进来。通过利益相关者的广泛参与、制定政策、审查部署和寻找学习点，建立多样性并减少潜在的偏见。
透明度（开放）。透明度可以促进公众的信任和信心，使受影响的人能够做出明智的判断。问责制需要有关人工智能生物识别系统的清晰、有意义、准确和及时的 (CMAT) 信息（受操作敏感性影响）。说明为什么使用该系统是必要且适当的，强调可预见的风险。
公正性（赋予独立性）。问责机构应保持公正，不存在利益冲突。外部问责制——法院和监管机构——具有内在的这一点。在内部，负责人工智能生物识别技术的人员应该独立于参与其设计、开发和部署的人员的直线管理结构。
证明（遵循证据）。警察知道如何捕获、分析和提供证据。问责证据应在完整性、可信度和连续性方面反映操作证据收集的标准，反映使用决策的影响——以及不是 使用 – 可用的人工智能生物识别技术。
可执行性和补救措施（让它正确）。如果没有“那又怎样？”，责任就只是装饰性的。问责机制必须为人们提供有效的补救措施，包括投诉和质疑的途径、内部可执行性和补救措施。
可强迫性（让它发挥作用）。监督机构必须有手段使问责制发挥作用。外部强制力来自法律或民主程序，而内部政策应授权采取行动，而不需要法律权力。
可解释性（描述、展示、揭秘）。参与者/观众必须理解人工智能生物识别技术。从技术角度解释系统是一回事，但从技术角度解释系统是一回事。用非技术语言来理解它，以便公民及其代表能够理解、参与和挑战它的使用，这是困难但重要的。
建设性（追求更好）。问责不仅仅是批评。带着共同的改进目标建设性地参与、考虑不同的观点并邀请挑战将揭示分歧如何能够带来有益的解决方案。
执行（对自己负责）。 《欧洲警察道德守则》规定：“民主的状况往往可以通过检查警察的行为来确定”。警察的“行为”将越来越多地包括个人和组织人工智能技术的使用，涉及包含诚信和道德的专业标准、价值观和预期行为。
学习（找课）。通过应用（新）知识和见解，促进在各个方面改进人工智能的意愿。应用于设计、使用和对人工智能生物识别的监督，学习包括系统、结构、实践、流程、知识和资源的修改和改进，以及专业学说、标准和政策的制定。
AiPAS 团队已主动提出与联邦联合机构分享他们的方法、调查结果和合规工具，并将在 1 月 20 日之后仔细聆听白宫的情绪音乐。
无论 EO 14074 的结果如何，人工智能驱动的生物识别技术在执法中的使用将比我们所有人更长久。 FRT 等功能将提高警察效率，增强全球公众的信任和安全如果我们在问责的旗帜下工作，以确保我们的自由得到祝福。执法部门之间的持续合作也将体现另一项著名的总统纪念活动：众志成城。
关于作者
弗雷泽·桑普森 (Fraser Sampson)，前英国生物识别和监控摄像头专员，现任英国伦敦大学治理与国家安全教授中心（恐怖主义、复原力、情报和有组织犯罪研究卓越中心）和非执行董事。
文章主题
||||||
