加利福尼亚州是许多科技公司的所在地，即将采用美国有史以来第一个人工智能法规。它将对在该州开发人工智能系统的公司施加新的义务，这令主要相关人士感到非常沮丧。该文本仍须由当地州长签署才能生效，可能适用于该行业的大多数公司。
和 ”历史文本» 对于某些人来说，“存在根本性缺陷且针对性不强» 对于其他人来说，这将比人工智能法案？ 8 月 29 日星期四，“SB 1047»，这项旨在监管加州人工智能的法案已送到美国加州州长加文·纽瑟姆 (Gavin Newsom) 的办公桌上，该州是许多人工智能公司的所在地。他的签名将标志着该文本获得通过的最后一步，该文本已获得议会和当地参议院的批准。
如果加文·纽瑟姆选择签署这项法案，这可能是美国第一个适用于人工智能的法规——美国国会迄今为止尚未就其中的文本达成一致。尽管仅限于加利福尼亚州境内，但它适用于该领域的许多公司，例如 ChatGPT 的开发商 OpenAI 或 Anthropic。据统计，全球 50 家最大的人工智能公司中有 35 家位于“金州”卫报。一旦获得通过，该文本甚至可以作为未来联邦规则的典范。
安全测试和开关
毫不奇怪，这个可能迫使加州公司承担新义务的项目正在受到人工智能巨头的密切关注。事实上，本文的全部目标是防止大型语言模型被用来造成特别重大的损害，其中包括使用人工智能制造化学武器或对战略地点进行大规模网络攻击。
因此，如果该法案生效，这些公司应该：在训练和启动系统之前测试他们的人工智能模型。他们将被迫与当地政府分享他们的安全协议。如果他们的人工智能系统导致死亡或重大财产损失，他们可能会被加州总检察长起诉。
根据路透社，他们还应该提出在“失败”时“关闭”、“停止”人工智能模型的方法：硅谷公司希望排除的所有因素。
批评者称，这项法律将使该行业陷入瘫痪
分别推出ChatGPT、Gemini和Llama的OpenAI、Google和Meta都是文本杀手。三巨头估计这些安全规则应在国家（联邦）级别定义。三人表示，该法案根本没有达到目标：它不是针对下游那些将人工智能用于有害目的的人，而是适用于上游开发人工智能系统的公司。 Meta 的人工智能经理 Yann LeCun 去年 6 月在 X 上解释说，这可能会对人工智能研究产生有害影响。
https://x.com/ylecun/status/1806557611413627032
对于捍卫硅谷利益的组织来说，该法案将基于“关于人工智能可能是什么样子的科幻幻想»。 «该法案更多地与《银翼杀手》或《终结者》有关，而不是与现实世界有关。我们不应该因为理论上的情况而削弱加州的主要经济部门”，以一种信致州长。
大西洋彼岸的许多人士都对该案文表明了立场。例如，前众议院议长南希·佩洛西宣称：“文字充满善意，但信息贫乏”。其他人则表示，这会将许多公司赶出加州并阻碍创新。该法案背后的政治家、民主党参议员斯科特·维纳对该愿景提出了质疑。 “创新和安全可以齐头并进——加州处于领先地位“，他在一份新闻稿中为自己辩护。
非政府组织未来生命研究所的兰登·克莱因 (Landon Klein) 接受采访时表示阿克西奥斯，一些AI公司的反对并不奇怪。 “如果公司要在发布之前确保他们的系统是安全的，那么他们应该对这些模型被公众使用后发生的潜在危害承担一些责任，坦率地说，他们只是不想这样做。面对这个责任»。
该法案的作者表示，该文本不会影响初创企业
文本中也有这些支持者，令人惊讶的是，其中包括埃隆·马斯克（Elon Musk），他是 X 的所有者，也是人工智能公司 xAI 的负责人。这位亿万富翁说在«倡导人工智能监管»，将后者与对公众构成风险的产品或技术的法规进行比较。 Anthropic 是一家专注于人工智能的初创公司，也是该项目的支持者之一，特别是因为该项目的作者维纳参议员采纳了他的一些建议。例如，后者限制了州总检察长起诉加州人工智能公司的可能性。
该法案并不适用于所有人工智能系统：只有总部位于加州、训练大型、昂贵的人工智能模型的公司才必须遵守。斯科特·维纳 (Scott Wiener) 表示，该文本不会影响寻求与人工智能巨头竞争的小型初创企业。为了避免阻碍开源人工智能的发展，只有非常大的开源语言模型，“其训练需要超过 1 亿美元的数据”，都会受到影响。
然而，该文本可能永远不会生效：理论上，加利福尼亚州州长加文·纽瑟姆 (Gavin Newsom) 要到 9 月底才能做出决定。后者有三种选择：签署法律、否决该法律、或者不经他签字就让它生效。他会做出什么决定？州长尚未公开表明他的立场。
来源 ： 卫报
