随着政府对面部识别的使用越来越深,有关提供新系统的供应链的问题也越来越大。
一个散文在《科学》杂志中指出,即使公民和隐私提倡者越来越坚持有关生物识别监测的细节执法部门使用,对系统的设计和制作方式知之甚少。
写作,民主警务是忠于美国宪法原则的执法部门,需要与像面部识别一样具有侵入性和强大的工具,似乎对制造商的责任似乎很少,而对面部识别似乎无处不在,就需要更多的监视透明度。伊丽莎白·约翰,加州大学戴维斯分校的法学教授。
((有关Clearview AI的问题它向执法部门的销售是非典型的。大多数供应商留在阴影中。)
与大多数其他工具和设备在工作过程中使用的其他工具和设备不同,面部识别和其他AI软件是通过道德政策制定的,然后根据执法运营政策部署,这些政策将被部署。
一个政策级别的透明度意味着在另一个级别没有透明度的情况下,透明度大大降低。
根据约翰的说法,产品设计影响了警务的方式。她说,制造商决定是什么触发了他们的人体摄像头,什么导致他们关闭的是什么。
他们还决定在其产品中使用哪种软件。买家可以请求功能和功能,但是公司对其竞争设定和收入目标的反应更为强烈。
供应商也强加了保密条款,以制定部门政策。专有知识产权的非披露协议和盾牌可以防止公众披露用于执行法律和俘虏罪犯的工具和技术。
约翰的结论是,缺乏在电子消费品或国防工作中可以接受的透明度可能会使民主警务困难或不可能。