本週在劍橋大學的演講中, 提出了大膽的主張的創造這將是「人類有史以來發生的最好的事情,或最糟糕的事情」。
這次演講是為了慶祝新的萊弗休姆智慧未來中心的開業,科學界的一些最優秀的人才將在這裡嘗試回答有關機器人和人工智慧的未來的問題 - 霍金說我們需要做更多的事情。
“我們花了很多時間研究歷史,”霍金講課,“讓我們面對現實吧,這主要是愚蠢的歷史。”
但儘管我們花了很多時間回顧過去的錯誤,我們似乎還是一而再、再而三地犯下同樣的錯誤。
「因此,人們正在研究智能的未來,這是一個值得歡迎的變化,」他解釋道。
這並不是霍金第一次擔心人工智慧。
去年,他加入了以及數百名其他專家寫一封公開信要求政府禁止有一天可能會針對人類的自主武器。
他也是之前說過「全面人工智慧的發展可能意味著人類的終結」。
在周三的演講中,他承認他仍然擔心“強大的自主武器“ 和 ”少數人壓迫多數人的新方法”,它帶有人工智慧。
但他表示,如果我們現在就能思考並解決這些問題,這項技術也有潛力發揮作用。
“當我們的思維被人工智慧放大時,我們無法預測我們會取得什麼成就,”他說。
“也許借助這一新技術革命的工具,我們將能夠消除上一場工業化對自然世界造成的一些損害。當然,我們的目標是最終消除疾病和貧困。”
霍金也是劍橋大學教授,萊弗休姆未來智慧中心已獲得超過1200萬美元(1000萬英鎊)撥款用於開展研究項目,這些項目將增強人工智慧的未來潛力,同時仔細應對風險。
該中心的部分靈感來自該大學的存在風險中心,該中心已經提供了「終結者研究」等科目的課程,以研究人類未來的潛在問題。
雖然中心專注於一系列威脅 - 例如和戰爭—新的萊弗休姆中心將專門研究像人類一樣思考和學習的機器可能出現的問題。
“機器智能將成為本世紀的決定性主題之一,確保我們充分利用其機會的挑戰是我們共同面臨的挑戰。”Leverhulme 中心主任 Huw Price 說道。
“然而,目前我們才剛開始考慮其後果,無論好壞。”
谷歌已經開發出人工智慧,可以從自己的記憶中學習; 伊隆馬斯克擔心人類會變得愚蠢”家養寵物未來人工智慧的「;而電腦系統已經在智商測驗中與四歲孩子相媲美,這絕對是值得早日思考的事情。
作為霍金說,它最終可能「對我們文明和我們物種的未來至關重要」。