ChatGPT 背後的新創公司 OpenAI 呼籲美國立法者規範人工智慧。該公司正在透過其執行長討論建立一個專門負責人工智慧的監管機構……但這可能會要求 OpenAI 尚未準備好傳達的數據。
Sam Altman，OpenAI 執行長兼共同創辦人，於 2023 年 5 月 16 日星期二在美國參議院議員面前作證。人工智慧。反映了無數的個性，包括史蒂夫·沃茲尼亞克、伊隆馬斯克或艾瑞克施密特、山姆奧特曼警告生成式人工智慧的固有危險：
「我認為如果這項技術出現問題，可能會造成很大的傷害。我們希望聽到這件事。
人工智慧對就業的影響
毫不奇怪，OpenAI 的執行長認為人工智慧涉及好處與風險一樣多。據他介紹，生成式人工智慧既可以消除工作——高盛稱 3 億個工作機會面臨消失的風險– 並創造新的職業。
但是，目前這家新創公司部署的解決方案，喜歡聊天GPT或 Dall-E，存在好處多於風險，奧特曼脾氣暴躁。三十多歲的人仍然認為自己“對於確保他們的工作安全至關重要”透過與政府合作。
監管人工智慧的機構
具體來說，山姆·奧爾特曼（Sam Altman）主張成立一個聯邦機構，負責發布建立新人工智慧模型的許可證。如果沒有這個權威機構的同意，科技巨頭就無法部署大型語言模式。該實體還能夠制定人工智慧在向用戶提供之前必須絕對通過的規則和測試。
“我們需要共同努力尋找全新的方法”」薩姆·奧爾特曼說，他準備與立法者合作。
幾位參議員提出了設立專門機構的想法。他們也希望未來的實體能夠迫使公司揭示人工智慧模型的底面。例如，立法者希望設計師分享有關人工智慧如何運作以及他們接受哪些資料訓練的資訊。
缺乏透明度
請注意，OpenAI 強烈拒絕透露使用什麼類型的資料來訓練 ChatGPT。正如出席參議院的人工智慧專家加里·馬庫斯 (Gary Marcus) 所指出的那樣，OpenAI 對於 ChatGPT 的形成方式仍然缺乏透明度。
這家新創公司強調了安全風險，只是簡單地指出 2021 年之前的資料庫可以訓練GPT-4，ChatGPT 背後的 GPT 模型的最新迭代。一個“數據語料庫”包括“數學問題的正確和不正確的解決方案、弱推理和強推理、矛盾和一致的陳述，以及代表各種各樣的意識形態和想法”該公司表示，已使用。如果山姆·奧爾特曼建議的機構出現，它很可能會要求 OpenAI 不願透露的機密資訊…
此外，參議員也呼籲建立反壟斷監管旨在避免反競爭行為。這些未來的措施必須防止像微軟或Google這樣的巨頭，或是像OpenAI這樣已經成為巨頭的新創公司完全控制人工智慧領域。
監管有組織
世界其他地區，對人工智慧的監管也在組織中。中國確實制定了非常嚴格的規定冒著扼殺創新的風險來監管人工智慧。在歐洲，歐洲資料保護委員會 (EDPS) 成立了一個工作小組，旨在確定對 ChatGPT 採取的立場和其他對話機器人。並聯，《人工智慧法案》被歐洲議會通過。本文旨在規範歐洲領土上的生成人工智慧活動。
Opera One - AI 驅動的網頁瀏覽器
作者：歌劇
來源 ： 紐約時報
