人工智慧戰勝了世界上最複雜的策略遊戲之一圍棋，在2016年引起了轟動。凱林佩爾林，一個連排名都沒有的玩家。他擊敗了人工智慧KataGo在 15 場比賽中的 14 場中他們一起玩。
但如何呢？諷刺的是，Kellin Pelrine 為此使用了…電腦程式。他其實是團隊的一員FAR AI，加州研究中心致力於人工智慧，它設計了一個專門的程序KataGo的弱點分析。正是由於這一點，團隊發現並利用了其中的一個重大缺陷，並且也能夠實現該漏洞利用面對莉拉零，另一個專門研究圍棋的人工智慧。
人工智慧因缺乏複雜性而被愚弄
凱林·佩爾林 (Kellin Pelrine) 在比賽中做出的決定不是由計算機決定的。但玩家掌握了重要的資訊：混亂技術。圍棋遊戲的原則是使用你的棋子（黑色或白色，取決於你的一方）包圍對方的石頭，捕獲他們從而控制這片土地。它是世界上最古老、最複雜的策略遊戲之一，以至於當世界冠軍李世石被打敗了2016 年 Google 的 DeepMind，很多人都將其視為機器對全人類的勝利。
但這些人工智慧可以被簡單的技巧愚弄了，在這裡發現。透過緩慢而有策略地放置棋子來形成一個大的捕獲圈，同時在遊戲板的另一側進行射擊，就有可能欺騙人工智慧的警覺性。另一方面，一種策略是“很容易被發現» 根據佩爾林的說法。該團隊僅在 KataGo 和 Leela Zero 上測試了他們的發現，這兩個版本都是公開發布的，並且都是最新版本，但同樣的技術有可能欺騙AlphaGo，存取權限是私有的。即使在 9 石讓分的情況下測試他們的發現（這會為現實生活中的任何人帶來 100% 的獲勝機率），Far AI 團隊也能夠扭轉 AI 的局面。
對於接受英國《金融時報》採訪的加州大學人工智慧研究員 Stuart Russell 來說，這項發現凸顯了這些系統的最大弱點之一。由於他們只能「理解」透過學習模型接觸到的特定情況，人工智慧不具備泛化能力就像人類一樣。對於研究人員來說，“這再次證明我們太渴望為機器提供超人等級的智慧。»
因此，非排名選手是 Kellin Pelrine 在比賽中最大的優勢，因為他的比賽方式，無論多麼平庸，都不適合分析了數百萬個模型作者：KataGo 和 Leela Zero。然而，沒有任何跡象表明，在研究了這些新數據之後，這兩個人工智慧在未來將繼續被愚弄。如果科幻小說有一天成為現實，我們仍然可以學到一課：典型的人類愚蠢可能是我們最大的救贖。
來源 ： 金融時報
