教授弗雷泽桑普森，前英国生物识别和监控摄像头专员
问责制是指拥有权力的人正确使用权力，而这些人是警察，他们对权力的使用可能会产生深远的后果。如果他们的力量被技术放大，责任就会延伸到技术的使用。在警务领域，先进的技术伴随着先进的责任。
随着人工智能（AI）进入警务领域，问责机制将变得更加复杂，在某些方面与其他部门有所不同。所有公共机构都需要使用技术，并且都需要回答标准问题，例如“它到底有什么作用以及为什么需要它？”人们想知道如果出现问题会发生什么以及在哪里可以找到更多相关信息。这是入门级的责任性，警务与任何其他公共服务没有什么不同：他们必须回答有关其使用技术支持功能的问题。人工智能给公共部门组织带来了新的挑战，特别是在回答“它如何工作”的问题时，因为问责制需要透明度和理解。与其他公开负责的当局一样，任何购买和部署其无法解释的技术的警察部门都不会在黑匣子防御中找到太多安慰。
人工智能向执法部门提出了不同的、更严格的问责要求，具体取决于他们用人工智能做什么。如果他们将一些基本人工智能用于纯粹的行政职能，那么警察将承担与其他国家机构相同程度的责任。例如，如果当地警察局长决定人工智能发放制服以节省员工时间，这与地方当局的做法没有本质上的不同。但使用人工智能能力业务警务职能将是一个完全不同的用例。订购现成的靴子与在街上订购靴子不同。当人工智能技术被用于远程生物识别和秘密监视等执法目的时，环境就加大了赌注，警务部门应该预见到更深层次的责任。确实，一旦我们开始谈论计算年龄、情绪或种族的推理算法，无论谁使用它，风险都会更高，但警务中的人工智能级问责制将需要解决特定的风险和要求。他们需要反映法律的完善（例如欧盟人工智能法案）并加强必要的保障措施。
英国警务部门在采用创新技术方面有着良好的问责记录。生物识别、呼气分析仪和穿戴式视频就是例子。是什么让人工智能与众不同？有两件事：新颖性和延迟。通用人工智能（AGI）带来了生存考虑，当面临生存挑战时，我们倾向于相信是什么让我们走到了这一步。但我们以前没有来过这里，对于 AGI，我们不会有熟悉的安慰。非凡的技术能力正在迅速到来，如果我们要信任它用于执法目的，人工智能将需要带来嵌入式问责制。虽然警察的责任始终不在于得到答案，而更多在于拥有答案到答案是，人工智能能力将与之前的任何技术有很大不同。利用其潜力意味着重新设计传统的责任模型。警务部门应该准备好就人工智能的使用以及对人工智能的使用做出回应不是在它为预防和解决犯罪以及保障人员安全提供可用且合法的战术选择的情况下使用它。
由于具有无限的多功能性，人工智能支持的能力几乎肯定会超出其最初的概要。单一用途的人工智能能力是一个矛盾的说法。由于技术几乎永远处于测试状态，人工智能将持续提供更广泛的应用。这是人工智能的优势之一。这也是“功能蠕变”的根源，它会让合法的多元化看起来不诚实。
正如美国司法部已最近认识的人工智能进入警务领域有可能改变执法部门，但我们必须将创新与保证同步。有效的审计（内部和外部）是必须的，有效性将由独立的验证和保证结构以及及时干预、改进和赔偿机制来确定。
警方拥有更强的能力来完成以前闻所未闻的事情，他们将越来越不得不说“仅仅因为我们可以，并不意味着我们就是”。为了令人信服地做到这一点，他们需要嵌入问责制。换句话说，警察越多可以使用人工智能做的事情越重要，他们展示自己的能力就越重要不是（但）这样做，特别是在英国，因为我们的治安模式是基于同意的。
为此，恐怖主义、复原力、情报和有组织犯罪研究卓越中心 (CENTRIC) 正在与创新英国商业连接、东北商业复原力中心和伦敦警察厅合作，设计实用机制和软件工具，以评估和实施人工智能警务应用（AIPAS 项目）。
人工智能为维护社会提供了不可抗拒的潜力。平衡当前可能的情况与对国家使用人工智能的担忧和期望将是动态复杂的——更多的是陀螺仪而不是拉锯式。鉴于其相互依赖性和不可阻挡性，人工智能的问责制可能很快就会成为公众对警务信任和信心的最终代表。
关于作者
弗雷泽·桑普森 (Fraser Sampson)，前英国生物识别和监控摄像头专员，现任英国伦敦大学治理与国家安全教授中心（恐怖主义、复原力、情报和有组织犯罪研究卓越中心）和非执行董事脸部观察。
