白宫咨询小组投票批准了24页报告这阐述了所有联邦执法机构现在必须在对该领域的AI工具进行现实测试时,包括AI-Enhanced面部识别技术时必须采取的具体行动。
该报告及其建议现在是白宫和国家AI倡议办公室。总统乔·拜登(Joe Biden)10月23日行政命令在安全,安全和值得信赖的开发和使用AI的“明确需要现实的测试” AI工具上。联邦执法机构的问题是,在“野外”中测试AI的标准化方法没有标准化的方法。小组委员会对AI现场测试的批准建议解决了该问题。
所采用的报告和调查结果还说:“现实世界测试的结果应公开,以便他们有助于对AI负责使用的知情对话和辩论。”
此外,小组委员会呼吁增加资金,以支持州和地方执法级别的研究。
国家人工智能咨询委员会执法小组委员会(naiac)投票批准调查结果解释说:“很少有资源可以帮助指导AI行业,执法部门和独立的研究人员,通过测试AI工具的过程。在现场临时使用AI工具时。此报告和一系列建议为在策略的背景下为AI现场测试提供了基础架构。”
该报告在对AI工具的性能进行测试时,在完全采用并将其集成到正常使用中时,提出了执法机构的清单。它综合了一系列的经验测试方法,并将它们适应使用国家标准技术研究所(NIST)AI风险管理框架的警务背景。
具体而言,通过“通过最佳实践”来指导现场测试设计师的“地图和“测量”阶段的AI风险管理阶段。本报告没有解决可信赖的AI实施的“管理”阶段,“但是从现场测试中得出的证据将使决策者在管理和权衡多种风险和目标时做出明智的决策。”
批准的报告指出:“现场测试对政府以及公众对执法中的AI应用的理解至关重要。但是,需要仔细设计良好的现场测试,以适应特定AI应用程序的环境,需求和实际限制。研究人员,警察部门和技术供应商将必须共同努力,以创造出高质量现场测试的条件。”
批准该措施的NAIAC小组委员会主席简·班鲍尔(Jane Bambauer)表示,该报告的发现和建议仅代表“一种迭代,绝不是理解AI在现场如何执行其功能的唯一手段。”
Bambauer指出,“在该领域测试AI的想法中仍然很早”,小组委员会批准的程序肯定可以并且可能“进一步改善”。
“负责使用AI在执法中要求AI开发人员培训,测试和审核他们的AI工具,以确保预测工具的结果足够准确,非歧视性,尊重权利和经济有效,”该报告说,该报告指出,AI工具的真实价值和风险将取决于AI工具的真实价值和风险。
该报告指出:“当执法机构采用新技术时,他们通常必须依靠在相对无菌条件下进行的测试”,并且“可以合理地担心他们在运营环境中对工具的特殊使用将导致与已发布的测试或其他机构报告的绩效特征不同。”
该报告指出:“有时没有独立验证AI工具的生产商进行的测试,并且同时可以使对较差的工具或过多的有用工具的怀疑态度产生过多的乐观情绪”,“因此,执法(以及公众)通常不会像准确的,公平地融为一体,并没有像公众那样获得良好的信息(以及公众),并且没有良好的信息。
面板的推荐测试方法“按通常与有效性相关的顺序列出,从最严格的(盲目的随机对照试验)到最少(匹配的案例研究)。”
所有测试“经过正确的设计,可以产生有用的信息来改善可用证据基础,但是层次结构中列出的方法更有可能通过消除外部因素的影响(“混杂因素”)来暗示因果关系,”报告指出。
该报告说:“每当提前设计现场测试时,都会创建机会发现有关广泛效果的信息”,“每个输出度量指标通常只会增加最少的额外费用或精力。出于这个原因,小组批准了建议并收集数据,“在最广泛的范围内收集了最广泛的范围,这些数据可能是有用的。”
小组委员会的三个批准建议是:
- 管理和预算办公室(OMB)要求联邦执法机构接受与所提供的清单一致的现场测试形式。如果代理机构的使用政策将工具的使用限制为同一使用政策,并且基本相似的条件,则可以放弃现场测试要求,而该工具先前已由另一家机构对其进行了现场测试。
- OMB要修改其指南,以澄清现场测试计划和结果必须在相关的AI库存或另一个公共政府网站上发布。即使在现场测试后未采用AI应用程序,也应该发生这种情况。
- 与白宫一致政策对于“消除负责使用人工智能的障碍”,国会应由司法援助局授予特殊用途的赠款,该助理将支持警察机构,技术生产者和独立研究人员之间的合作,以进行特定的目的,以对AI执法工具进行独立的现场测试。提案的审查应部分基于与现场测试清单的一致性。