法國人Yann LeCun是Facebook人工智慧實驗室主任。他將舉辦一場法蘭西學院研討會持續至 4 月 15 日關於他的專業：深度學習。它是一組允許機器自動學習並受到神經網路功能啟發的方法。在記者會上，我們向他詢問了最近發生的標誌著人工智慧研究新聞的事件。
01net：您對Google旗下新創公司DeepMind的利用有何看法？他們的AlphaGo演算法擊敗歐洲圍棋冠軍。儘管您也在 Facebook 從事這個主題的研究，但這個結果是否讓您感到驚訝？
揚樂昆：這是一個令人印象深刻的結果，也是非常好的工作。此時此刻，AlphaGo 透過使用 DeepMind 的專業強化學習技術進行自我訓練，繼續改進。
但我們無法真正比較我們的方法。我們在 Facebook 的專案非常小，只分配了一個人，而 DeepMind 有 20 到 30 人在做。此外，這並不意味著他們擊敗了最好的圍棋棋手：這只是歐洲最好的棋手，全球排名第633位。現在我們將看看三月對陣世界上最好的球員的比賽會是什麼樣子。但離勝利還很遠。
最後，我們兩個社會之間在文化上存在著根本差異。我們已經把我們的軟體放到網路上，每個人都可以評估它。 Deep Mind 更願意保守秘密並發表由委員會選定的文章，然後以引人注目的方式進行交流。
這就是艾瑞克雷蒙德在他的小冊子中所描述的一點大教堂和集市。軟體開發有兩種模型。大教堂模式是由一個小團隊秘密工作並耐心等待結果完美的模式，而集市模式則是像 Linux 作業系統這樣的合作研究項目。總的來說，我更相信集市模式的有效性。最好的軟體是開源。這是我們的文化，是 Facebook 的 DNA。事實上，我的老闆、Facebook 技術總監 Mike Schroepfer 就來自 Mozilla。
但是，身為研究人員，您如何協調自己的興趣與 Facebook 的商業挑戰？
我加入 Facebook 的主要原因是因為我可以公開貼文。這很重要，因為我認為當科學家可以交流想法時，研究進展會更快。研究群體越大，進展越快。人們也沒有興趣在純研究領域取得顯著領先，而在競爭激烈的技術領域則不然。因此，當我們在 Facebook 上寫一篇文章時，我們會將其放在開放網站上ArXiv.org。
這樣做的第二個好處是，研究人員知道他將受到同行的判斷。因此，其方法的嚴謹性和發表的品質都會受到影響：結果會更加可靠。最後，如果我們保證他們能夠發表論文，就可以吸引更多的人才，這也有利於公司的聲譽。
您如何看待危言聳聽的言論馬斯克談人工智慧可能被濫用？
我本人簽了一份反對自主攻擊性武器的公開信因為這個話題爭議不大。
但我不同意伊隆馬斯克的危言聳聽的觀點。你會發現他很快就不會再發表這類言論了。我和他談過幾次，我認為，即使他的性格很難確定，他身上也有一定的口是心非。它使用目前的人工智慧技術來實現特斯拉的自動駕駛儀。因此，他當然宣稱這些系統不會毀滅人類，因為它們只是用來駕駛的！
此外，作為投資者，他遇到了一些承諾在五年內取得一些成功的新創公司。他的結論是，人工智慧的進步比之前想像的快得多，不久之後我們就會擁有超人智慧的機器。但他錯了。他可能也讀過這本書超智能哲學家尼克·博斯特羅姆（Nick Bostrom）描述了災難性的場景。後者以機器為例，要求機器製造盡可能多的迴紋針，最終將包括人在內的一切都變成迴紋針。隨著基因工程的開始，我們已經有了這種恐懼，其危險被高估了。人工智慧也是如此。
但建造比人類更聰明的機器是否仍存在潛在風險？
我們距離製造出與人類相似或優於人類的智慧機器還很遠。這需要幾十年的時間。因此，即使存在危險，也肯定不是立即發生的。這可能並不像尼克·博斯特羅姆這樣的人想像的那麼不可避免。
研究人員已經在考慮如何發展預先編程的行為，這樣他們就不會做任何有問題的事情，例如，保留控制權作為最後的手段。這是一個技術問題，而不是一個哲學問題。如果我們想讓它們完全自主，我們就必須以它們的衝動對人類不構成危險的方式來建構它們。但是，顯然，很難想像一種沒有人類缺陷的智能，因為這是我們所知的唯一例子。
🔴為了不錯過01net的任何新聞，請關注我們谷歌新聞等WhatsApp。
