人工智慧有可能導致人類滅絕。這是一封由 350 多名人工智慧專家簽署的信函，其中包括 OpenAI、Google Deepmind 和 Anthropic 的領導者。他們主張採取緩解措施，例如監管，而不是暫停…
人工智慧持續引起專家的關注。 2023 年 5 月 30 日這個星期二，人工智慧安全中心總部位於美國的非營利組織發表了一封信，呼籲採取措施減輕人工智慧帶來的風險。
人工智慧，優先事項
據該組織稱，這項技術提出了“滅絕的危險”為了人類。事實上，人工智慧中心認為人工智慧勢在必行“與流行病和核戰等其他全社會風險一起成為全球優先事項”。該聲明估計，與疾病或原子衝突一樣，人工智慧很可能會終結人類。
“可能很難表達對先進人工智慧的一些最嚴重風險的擔憂””，人工智慧安全中心表示，強調其聲明旨在“克服這個障礙並展開討論”。
這封信由多位行業領軍人物簽署，首先是Sam Altman，OpenAI 執行長兼共同創辦人，背後的初創企業聊天GPT，以及 Google 人工智慧子公司 Deepmind 的老闆 Demis Hassabis。我們也要提一下 Dario Amodei，Anthropic 公司的老闆，該公司開發了克勞德聊天機器人以及傑弗裡·辛頓 (Geoffrey Hinton) 和約書亞·本吉奧 (Yoshua Bengio) 兩位研究人員因在深度學習和神經網絡方面的工作而被認為是現代人工智能的教父。
總共有超過 350 名人工智慧領域的高階主管、研究人員和工程師簽署了這份新聞稿。被質疑的是紐約時報AI安全中心執行長Dan Hendrycks認為，這封信讓一些專家和領導人公開表達了他們的擔憂。該宣言非常簡短，主要目的是將盡可能多的人聚集在一起。
«即使在人工智慧社區，也有一個非常普遍的誤解，即“只有少數”厄運者“（編按：一個過度擔心人類末日的人）»丹·亨德里克斯解釋說，「有憂慮」。
暫停與監管
這並不是第一個將擔心人工智慧的專家聚集在一起的倡議。三月份，數千人，包括科技界的關鍵人物，如伊隆馬斯克或史蒂夫沃茲尼亞克, 呼籲公開信中的暫停令。這要求世界上所有研究中心暫停有關的研究“人工智慧系統比GPT-4更強大”，ChatGPT 背後的最新語言模型。
人工智慧安全中心發表的這封信更為溫和，呼籲更多緩解措施。倒薩姆·奧特曼，AI的進化也涉及監管。在美國參議院之前，他談到要建立一個完全致力於監督人工智慧的聯邦機構。該機構將負責向開發語言模型的公司頒發許可證。奧爾特曼也與美國總統喬·拜登進行了交談。
隨後，OpenAI的老闆飛往歐洲與各國政府進行討論。 OpenAI 總監上週在法國會見了馬克宏 (Emmanuel Macron)。面對法國總統，山姆·奧特曼辯護細緻入微的方法，這可以在不抑制創新的情況下降低風險。
正如這位美國企業家指出的那樣，人工智慧可以對人類產生積極影響。模仿薩姆·奧特曼，比爾蓋茲 (Bill Gates)，著名的微軟共同創辦人，相信人工智慧“可以用於有益的目的”，特別是應對全球暖化、減少不平等和改善最弱勢群體的教育。
來源 ： 人工智慧安全中心
