欧盟、美国和加拿大等约 50 个国家正在谈判一项有关人工智能人权和民主的国际条约。它旨在保证 OpenAI 或 Mistral 等人工智能工具的开发者尊重最低限度的基本权利和道德。以下是本文中需要记住的内容。
这是一篇关于人工智能的文章，迄今为止已从舞台上黯然失色。《人工智能法案》，欧洲对人工智能的监管，但值得我们充分关注。 3 月 14 日，五十个国家在斯特拉斯堡举行会议讨论《人工智能框架公约》，成功就第一个人工智能国际条约达成了临时协议。
在欧洲委员会——一个与欧盟无关的机构——美国、加拿大、日本、欧盟和许多其他国家——内部，近两年半以来一直在努力就十四页相关内容达成一致。人权，以及我们所说的“道德人工智能”。
« C一些与人工智能相关的活动可能会损害人类尊严和个人自主、人权、民主和法治», 他们在序言中写道。事实上有“歧视的风险“， 的 ”滥用人工智能» – 就像这些系统 «用于镇压目的，任意或非法的监视和审查»，他们补充道。
关于 AI 的新文本是什么？
这是第一个关于人工智能的国际条约，由欧洲委员会（与代表欧盟 27 个国家的“理事会”不同）制定，该国际机构拥有 46 个成员，其目标是保护人工智能人权。如果在其“人工智能委员会”内达成协议，该协议仍须得到其“部长委员会”的认可，这一步骤应在五月份进行。
与最近呼吁监管人工智能的联合国决议不同，该文本最终将具有约束力。但它必须经过一个漫长的过程才能适用：它必须得到每个签署国的批准，然后转化为每个国家的法律。一旦完成所有这些步骤，它就可以适用，欧盟，还有美国、澳大利亚、加拿大、日本、墨西哥、哥斯达黎加、阿根廷……以及所有希望这样做的国家。
其目标“旨在使人工智能的开发、设计和应用与欧洲委员会的原则保持一致»，其秘书长 Marija Pejčinović Burić 在一份声明中强调公报。对于其编辑来说，人工智能（包括 ChatGPT 等生成式人工智能和预测性人工智能（用于在社交网络上提出建议的人工智能））不得侵犯人权、民主和法治。
该条约旨在填补空白。到目前为止，这些规则主要是由开发这些人工智能的公司定义的——例如 OpenAI、谷歌、Mistral。尊重人权远不是他们的首要任务。 “这个想法不是等待他们的系统投放市场（并可供公众使用，编者注），而是尽快在上游制定民主规则»，01net.com 采访的信息与民主论坛政策经理 Katharina Zügel 解释道。
需要尊重的原则包括：人权、民主、人的尊严、透明、平等和非歧视、尊重有关个人数据和隐私的规则以及安全创新的理念。例如，人工智能系统不应该被用来“破坏民主机构和程序的完整性、独立性和有效性，包括权力分立原则、尊重司法独立和诉诸司法的机会»。
与AI法案有什么区别？
与欧洲人工智能法规不同，这是一项国际条约。 “其范围超出了欧盟，因为谈判涉及美国等国家（该行业拥有许多公司）、日本和加拿大（这些国家是该行业的许多公司的所在地）。都可以签署协议 »，指定 Katharina Zügel，她密切关注文本。
另一个区别：不像人工智能法案该框架协议在 459 页中列出了人工智能工具投放市场必须遵守的规则，框架协议是一个相当简短的文件。 3月14日的十页临时协议是由一名前记者发表的欧洲活性剂在领英上，然后由语境。它定义了人工智能创造、应用和开发过程中应尊重的主要原则、标准和权利。但批准该公约的国家应将其纳入本国法律，并解决其实施措施问题 — — 即使该公约规定了监督机制。
后者可以依靠去年二月发布的建议信息与民主论坛提出了落实平等和非歧视原则的措施建议。其中，例如，我们发现“向更具包容性和多元化的团队开放人工智能开发团队，决定用于训练人工智能的数据选择民间社会和研究人员对其系统进行影响分析。..”，列出了他的公共政策经理。
另请阅读：为什么算法仍然存在性别歧视
它适用于私营部门吗？
从理论上讲，我们理解该条约的意图，但在实践中，开发人工智能工具的私营公司真的需要应用该文本吗？这一点在机构内部引起了激烈争论。在最初的版本中，起草者建议将公约一视同仁地适用于私营和公共部门，但国防除外。但在去年 12 月发布的版本中，台词发生了变化。私营部门例外。
足以让人权捍卫者振奋起来，比如人权联盟、无国界记者组织、反对网络骚扰女权主义者、Access Now 或 Public Eye 等非政府组织。在一封公开信，他们对大型科技公司和公司可能被排除在人工智能领域之外表示遗憾。这相当于“使公约失去其实质内容“，通过不提供”对于越来越受到强大人工智能系统影响、容易产生偏见、人为操纵和民主制度不稳定的个人来说，几乎没有任何有意义的保护“，他们写道。
3 月 14 日的临时协议最终选择了中间立场：默认情况下，私营部门并未被排除在外，但签署国将能够选择公约适用的方式。谈判代表建议各国可以选择：
- 将公约适用于私人行为者或
- 采取“其他适当措施”以实现文本的目标和宗旨。
«这是错失了一个巨大的机会”后悔凯瑟琳娜·缰绳。“使该公约适用于公共部门显然很重要。”但对于私营部门来说，如果临时协议的条款成为最终协议，« c每个国家将决定哪些规则适用于企业» – 谁是开发人工智能的参与者。
被排除在国防部门之外也是紧张局势的一个根源。在这方面，非政府组织也要求至少在《公约》中纳入用于国家安全目的的人工智能（即军事应用或情报部门使用的人工智能）尊重国际法的义务。一些国家则捍卫普遍豁免的想法。最后，这是第一个所采用的方法。这与保护国家安全有关的活动不需要遵守框架公约，但必须按照国际法进行。
这些妥协会在文本的最终版本中保留吗？下一阶段的通过将于明年五月在该机构的部长委员会之前进行。
