速度太快，對人類來說太危險：至少可以說，這是一封信，於 3 月 29 日星期三發表，由數千人簽署，其中包括來自科技界和世界各地的領導人。人工智慧（人工智慧）喜歡馬斯克和行業專家。所有人都呼籲暫停六個月，這是對人類有益的暫停，敦促世界各地的所有研究中心立即停止對這些先進系統的研究。 “我們呼籲所有人工智慧實驗室立即停止訓練比 GPT-4 更強大的人工智慧系統，至少六個月», 他們在序言中寫道。
«只有當我們確定其效果是積極的且風險可控時，才應該開發強大的人工智慧系統»，他們在這封由非營利組織生命未來研究所發表的信中補充道。本週三，即3 月29 日下午，已有1,123 人簽署，其中包括特斯拉和Twitter 老闆埃隆·馬斯克(Elon Musk)、蘋果公司聯合創始人史蒂夫·沃茲尼亞克( Steve Wozniak)、Alphabet 旗下DeepMind 的研究人員等科技和人工智慧人物。這些人要求在恢復任何開發之前，由獨立專家製定、實施和驗證道德和透明的安全協議。
「我們應該自動化所有工作，包括有報酬的工作嗎？ »
在提到的風險中，這封信以危言聳聽的語氣強調“失去對我們文明的控制»。銫 «近幾個月來，人工智慧實驗室陷入了一場不受控制的競賽，以開發和部署更強大的數位思維，沒有人（甚至包括其創造者）能夠可靠地理解、預測或控制。»，寫下它的作者。他們邀請所有研究這個主題的研究小組與監管機構攜手合作。
這封信也特別提到了人工智慧可能對我們社會產生的具體後果，並問道：「我們應該讓機器用宣傳和謊言充斥我們資訊的管道嗎？我們是否應該自動化所有工作，包括有報酬的工作”，喜歡那些帶給我們成就感的人？這足以呼應一個簡單的問題，這是英國作家抄襲受害者蘇西·阿萊格里幾週前提出的：“為什麼不直接用人工智慧取代我們不喜歡做的事情呢？»
這封信會被執行嗎？
«文字並不完美，但精神是正確的：我們需要放慢腳步，直到我們更好地理解其後果»（人工智慧），這封信的簽署人之一加里·馬庫斯教授向我們的同事宣稱路透社，3 月 29 日這個星期三。這封信會被執行嗎？目前正在進行真正的人工智慧競賽的公司會在這六個月的停工期間冒著被超越的風險嗎？這封信要求無論如何，這次中斷是“公開且可驗證」。如果“這種暫停不可能很快實施，各國政府必須介入並暫停”，這樣寫道。
另請閱讀： 人工智慧疑似逼迫一名男子自殺
這封信還加入了許多其他呼籲，要求對這些系統進行測量、反映和控制，但迄今為止都徒勞無功。本週三，歐盟警方國際刑警組織警告人們不要濫用 ChatGPT 進行網路釣魚、虛假資訊和網路犯罪。所有這些呼籲最終可能會削弱大多數人工智慧產業公司目前的地位——這一地位被描述為邊緣就像“現在發貨並稍後修復”，可以翻譯為“我們現在開始，我們將修復（如果需要的話稍後）」。問題：對於人工智慧來說，這個“維修» 可能是不可能的。
來源 ： 生命未來研究所的公開信
