尽管欧盟的人工智能法案被誉为世界上第一个全面的人工智能立法，但它仍然存在一些问题。这包括为执法和边境管制机构使用原本被禁止的人工智能应用程序制定豁免。
在，对构成“不可接受的风险”的人工智能系统的禁令将正式生效。然而，国家安全豁免的存在引发了人工智能规则手册是否能够保障权利的问题。
被禁止的具有“不可接受的风险”水平的人工智能应用程序包括基于敏感特征的生物识别分类系统、工作场所和学校的情绪识别、社会评分、预测性警务以及操纵人类行为的应用程序。欧洲生物识别协会 (EAB)本周，该会议邀请了法律专家、Idemia 等行业利益相关者以及欧盟人工智能办公室的代表，讨论生物识别数据在这些应用中的使用。
“这不是绝对禁止，因此需要对规则有充分的了解，”比利时鲁汶大学 IT 与知识产权法中心 (CiTiP) 的法律研究员 Abdullah Elbi 说道。
他补充说，最重要的是欧盟委员会、市场监管机构和数据保护机构提供合理的指导方针。
尽管人工智能规则手册似乎为人工智能应用建立了标准，但它平衡欧盟国家本身的安全和权利保护：政府可以决定是否可以引入例外情况，以便在非常严重的犯罪、寻找受害者或防止恐怖袭击等严重威胁等情况下进行实时远程生物识别。
“在使用远程生物识别系统方面，欧盟不同成员国可能会出现一些分散的情况，”埃尔比说。
执法部门的豁免导致来自人权组织，他们声称他们削弱了针对潜在滥用行为的保护。
然而，欧盟人工智能办公室的伊琳娜·奥尔西奇指出，欧洲成员国无法就《人工智能法》实施的各个方面进行谈判。她说，个别国家可以出台比《人工智能法案》要求更严格的法规，但不能出台更宽松的法规。
“在实践中你仍然有一点余地，因为这些规则将由成员国当局执行，而且他们实际上可能采取略有不同的立场，”《人工智能法案》的共同作者之一奥尔西奇说。
人工智能办公室隶属于欧盟委员会，负责协调欧盟成员国之间的法律实施。
等待监管的人工智能法案的另一个例外是基于合规性的人工智能系统评估。
提供商必须将其高风险人工智能系统（包括生物识别系统）通过合格评定程序。然而，《人工智能法》为某些未经过合格评定的系统在公共安全等特殊情况下投放市场或投入使用敞开了大门。
“市场监管机构可以直接接受使用该系统，但这种授权是有限的——执法机构和民防机构随后必须执行合格评定程序，”鲁汶大学研究中心的另一位研究员莉迪亚·贝尔卡迪（Lydia Belkadi）说。信息技术与知识产权法。
有两种不同类型的程序，包括由提供商直接确认的内部控制。在某些情况下，该法案要求第三方（即欧盟成员国指定的公告机构）的参与。
为了确保遵守《人工智能法案》，标准化将发挥关键作用。欧洲标准化委员会和欧洲电工标准化委员会正在努力在 2025 年底前推出这些标准。
“总体而言，高风险人工智能系统现在受到价值链中不同参与者（包括提供商和部署者）更全面的监督系统。这些要求确实是尊重基本权利的核心关键，”贝尔卡迪说。
报告指出法国是“稀释”人工智能法案的主力
一项新的调查显示，《人工智能法案》中的漏洞和国家安全豁免是主要由法国领导的几个欧盟成员国发起的运动的结果。
由总统埃马纽埃尔·马克龙领导的该国政府战略性地对该法规进行了修订，以使执法和边境机构能够绕过公共场所远程生物识别的禁令。意大利、匈牙利、罗马尼亚、瑞典、捷克、立陶宛、芬兰和保加利亚等国表示支持法国。
例如，一份报告称，如果警方出于国家安全考虑，这种例外可能允许气候示威或政治抗议受到生物识别监控发表调查欧洲和欧盟观察家。调查机构分析了 100 多份文件，其中包括常驻代表委员会 (Coreper) 会议的文件。 Coreper 的职责是准备欧盟理事会会议的议程。
法国和其他国家还游说允许所有警察部队以及移民和边境当局使用情绪识别系统。之前的报道有该漏洞如何导致权利滥用。基于敏感特征的生物识别分类系统也获得了警方的豁免。
法国一直在尝试2024 年巴黎夏季奥运会期间。
希腊是另一个要求将人工智能法案排除在外的国家，并游说在公共场所对公民、难民和寻求庇护者进行实时生物识别分析。
该报告还谈到了高风险人工智能系统的合规性评估。由于豁免，公司可以进行自我认证，这可以帮助他们规避义务。
虽然荷兰数字权利律师安东·埃克等一些专家认为，豁免对现实生活影响不大，但其他人则声称，最大的影响可能是对弱势群体，因为他们几乎没有抱怨的权力。
布鲁塞尔自由大学 (VUB) 助理教授罗莎蒙德·范·布拉克尔 (Rosamunde van Brakel) 表示：“在大多数情况下，监管和监督……只有在违规行为发生后才会开始发挥作用，而不会在此之前保护我们。”
文章主题
||||||||||
