加州是許多科技公司的所在地，即將採用美國有史以來第一個人工智慧法規。它將對在該州開發人工智慧系統的公司施加新的義務，這令主要相關人士感到非常沮喪。該文本仍須由當地州長簽署才能生效，可能適用於該行業的大多數公司。
和 ”歷史文本» 對某些人來說，「存在根本缺陷且針對性不強» 對其他人來說，這將比人工智慧法案？ 8 月 29 日星期四，“SB 1047»，這項旨在監管加州人工智慧的法案已送到美國加州州長加文·紐瑟姆 (Gavin Newsom) 的辦公桌上，該州是許多人工智慧公司的所在地。他的簽名將標誌著該文本獲得通過的最後一步，該文本已獲得議會和當地參議院的批准。
如果加文·紐瑟姆選擇簽署這項法案，這可能是美國第一個適用於人工智慧的法規——美國國會迄今尚未就其中的文本達成協議。儘管僅限於加州境內，但它適用於該領域的許多公司，例如 ChatGPT 的開發商 OpenAI 或 Anthropic。根據統計，全球 50 家最大的人工智慧公司中有 35 家位於“金州”衛報。一旦獲得通過，該文本甚至可以作為未來聯邦規則的典範。
安全測試和開關
毫不奇怪，這個可能迫使加州公司承擔新義務的項目正在受到人工智慧巨頭的密切關注。事實上，本文的全部目標是防止大型語言模型被用來造成特別重大的損害，其中包括使用人工智慧製造化學武器或對戰略地點進行大規模網路攻擊。
因此，如果該法案生效，這些公司應該：在訓練和啟動系統之前測試他們的人工智慧模型。他們將被迫與當地政府分享他們的安全協議。如果他們的人工智慧系統導致死亡或重大財產損失，他們可能會被加州總檢察長起訴。
根據路透社，他們也應該提出在「失敗」時「關閉」、「停止」人工智慧模型的方法：矽谷公司希望排除的所有因素。
批評者稱，這項法律將使該行業陷入癱瘓
分別推出ChatGPT、Gemini和Llama的OpenAI、Google和Meta都是文字殺手。三巨頭估計這些安全規則應在國家（聯邦）層級定義。三人表示，該法案根本沒有達到目標：它不是針對下游那些將人工智慧用於有害目的的人，而是適用於上游開發人工智慧系統的公司。 Meta 的人工智慧經理 Yann LeCun 去年 6 月在 X 上解釋說，這可能會對人工智慧研究產生有害影響。
https://x.com/ylecun/status/1806557611413627032
對於捍衛矽谷利益的組織來說，該法案將基於“關於人工智慧可能會是什麼樣子的科幻幻想»。 «該法案與《銀翼殺手》或《魔鬼終結者》有關，而不是與現實世界有關。我們不應該因為理論上的情況而削弱加州的主要經濟部門”，以一種信致州長。
大西洋彼岸的許多人士都對該案文表明了立場。例如，前眾議院議長南希·佩洛西宣稱：「文字充滿善意，但訊息貧乏」。其他人則表示，這會將許多公司趕出加州並阻礙創新。該法案背後的政治家、民主黨參議員斯科特·維納對該願景提出了質疑。 “創新和安全可以齊頭並進——加州處於領先地位「，他在一份新聞稿中為自己辯護。
非政府組織未來生命研究所的蘭登·克萊因 (Landon Klein) 接受採訪時表示阿克西奧斯，一些AI公司的反對並不奇怪。 “如果公司要在發布之前確保他們的系統是安全的，那麼他們應該對這些模型被公眾使用後發生的潛在危害承擔一些責任，坦率地說，他們只是不想這樣做。»。
該法案的作者表示，該文本不會影響新創企業
文本中也有這些支持者，令人驚訝的是，其中包括 Elon Musk，他是 X 的所有者，也是人工智慧公司 xAI 的負責人。這位億萬富翁說在«倡導人工智慧監管»，將後者與對公眾構成風險的產品或技術的法規進行比較。 Anthropic 是一家專注於人工智慧的新創公司，也是該計畫的支持者之一，特別是因為該計畫的作者維納參議員採納了他的一些建議。例如，後者限制了州總檢察長起訴加州人工智慧公司的可能性。
該法案並不適用於所有人工智慧系統：只有總部位於加州、訓練大型、昂貴的人工智慧模型的公司才必須遵守。維納 (Scott Wiener) 表示，該文本不會影響尋求與人工智慧巨頭競爭的小型新創公司。為了避免阻礙開源人工智慧的發展，只有非常大的開源語言模型，“其訓練需要超過 1 億美元的數據”，都會受到影響。
然而，該文本可能永遠不會生效：理論上，加州州長加文紐瑟姆 (Gavin Newsom) 要到 9 月底才能做出決定。後者有三種選擇：簽署法律、否決該法律、或不經他簽字就讓它生效。他會做出什麼決定？州長尚未公開表明他的立場。
來源 ： 衛報
