由教授弗雷泽·桑普森(Fraser Sampson),前英国生物识别和监视摄像机专员
“酌处权是适合环境行动的艺术 - 这是警察的日常任务”。 1981年4月的布里克斯顿(Brixton)疾病后,斯卡曼勋爵(Lord Scarman)在他向英国议会的图腾报告中说。
Scarman指的酌处权是在街头搜索的背景下,其他人所说的停止和Frisk(种族上不成比例的关注点更多地放在停车上,而不是Frisking)。最具侵入性和最新情况的警察权力是酌处权 - 他们怎么会成为其他任何东西? - 该定义同样适用于行使其中任何一个。
当适合环境的行动时,变量几乎是无限的,是人工智能(AI)给我们的巨大优势之一,是能够以1981年无法想象的速度和规模来计算它们。揭示选项,提出选择和推断出的结果是AI会影响越野的现象,但会影响越野的现象?
如果他们使用AI执行“中性”或行政任务,例如购买车辆或建模人员配备率,那么警察与任何其他公共机构没有什么不同,但是他们对运营权的使用是国家独特的武力行动。在这种情况下,使用AI会引发新问题,这可能是执法部门所独有的。正如我所指出的前,在订购货架上订购规定和订购人们在街上有很大的区别。
在一个层面上,基本的计算机辅助决策是针对情况的适合行动 - 将响应资源分配给事件是一个例子 - 但这并不涉及权力的可酌情利用。关键AI问题“这是一个决定 - 制作工具或决定支持工具?”当该软件仅涉及AI时,就永远不会出现。
鉴于这种能力,应允许警察AI系统多少可支配权力?对于那些说“无”的人,请考虑:一旦警察将公共资金投资于AI系统,他们是否有义务最大化其功效,找到效率并释放尽可能多的资源来解决优先事项?如果AI的决定可以唯一减少在线对儿童的伤害或防止性剥削怎么办?对于那些说“当然”的人,如何限制酌处权的参数?解决AI自由裁量权的局限性将更多是管辖权的问题,而不是职能。
在电影拆除的人中,警察失去了酌处权,并依靠计算机生成的选择。当面对旧学校的反派西蒙·菲尼克斯(Simon Phoenix)(韦斯利·斯奈普斯(Wesley Snipes))时,他已经被深深地冷冻但返回融化和威胁时,这种AI解决方案被证明是没有用的。值得庆幸的是,这是好莱坞AI,狡猾的史泰龙出现在误解的警察约翰·斯巴达(John Spartan)的时代,这也被冻结了永久性。他以所有自由裁量的本能完好无损地返回了自己的节拍,并再次保存了一天。
我们还不能依靠低温(或非常恰当的名称)来保留警务AI的警察酌处权,因此我们将需要更现实的策略。
AI可以帮助酌情警察权力的一种方式是就预计的影响和可行的替代方案提供建议。它可以为决策者提供一项客观评估,以检查拟议行动的相称性和合理性与情况 - Scarman查询至关重要的事情。
另一个是偏见。尽管对警务的AI偏见有很多痛苦,但AI可以减少人类偏见,在组织(如果不是个人)级别的风险成为政策或变成文化之前的风险。 scarman再次。
不利的一面是警务人员的潜力(发送斯巴达!)。一个中心调查在公民对警察使用AI的担忧中,这里显示了一些有趣的早期回应。
然后是问责制。当使用酌处警察权力时,受害的公民如何抱怨他们的待遇(另一种关键的SCARMAN考虑)?如果AI部分负责决定,它是否应该归咎于责备?如何?目前,同一项调查询问成千上万的公民,即如果出现问题,警察可能会将责任归咎于AI。强有力的反应可能是公众对警察的态度的代表,就像衡量对其技术的疑虑一样,但无论哪种方式都将是相关的。
SCARMAN报告涉及警察在社会中的组织和作用,特别是在种族劣势方面,这里没有空间可以公正。报告出版后,英国议会辩论了警务如何在同意,独立和问责制之间取得适当的平衡,这项任务要求“当今多元化社会中每个警察的官员都需要“巨大的酌处权”。平衡和酌处权今天仍然适用。
即使尚未使用AI进行积极的战术决策,警务也将从其提供的新功能中受益匪浅。人工智能为法医和生物识别技术(指纹和DNA分析),监视(面部识别)和犯罪制图(地理空间预测)等领域带来了重大好处;它的可酌情使用将对公共信任和信心产生深远的影响。
AI在酌情警务中的适当作用必须两种方式。关于Scarman报告的回应,上议院的一位成员说:
“这是向警方致敬,他们可以行使履行职责所需的酌处权……而且,让我们毫无疑问,社区有责任协助警察执行他们的任务”。
警察AI将如何帮助公民诉讼对这种情况的行动?
关于作者
弗雷泽·桑普森(Fraser Sampson),前英国生物识别技术和监视摄像机专员,是治理和国家安全教授中心(恐怖主义,韧性,情报和有组织犯罪研究中心)和非执行董事面对面。