在研究人員發現它已經開始用他們無法理解的語言進行交流後，Facebook被迫關閉其人工智能係統之一。
該事件喚起了標誌性的天網興起的圖像終結者系列。也許特斯拉首席執行官埃隆·馬斯克（Elon Musk）AI是“我們面臨的最大風險”是正確的。
Facebook用自己的語言插入AI系統
Facebook必須在人工智慧由於事情失控，其研究人員正在努力的系統。 AI並未開始關閉全球或類型的計算機，但它停止使用英語並開始使用它創建的語言。
鮑勃：“我可以ii其他一切。”
愛麗絲：“球對我的零為零，讓我向我致我。”
上述段落對人類沒有意義，是兩個AI代理之間發生的對話Facebook。這人工智能代理為與人類進行談判而創建的，首先使用普通英語進行了交談，但最終創建了一種只有AI系統才能理解的新語言。
AI代理人不僅限於使用英語，因此它們偏離了英語，並創造了一種使他們更容易和更快地進行交流的代理商。但是，Facebook研究人員決定關閉AI系統然後強迫他們只用英語互相交談。
為什麼這是AI的可怕發展
允許AI代理商以他們發明的語言相互交流的危害是什麼？
首先是AI系統使用自己的語言，人類將無法遵循AI代理商在談論什麼。人類無法理解AI系統由於其隱藏的思維過程的考慮如何，因此，當用未知語言進行對話時，AI代理的保密性將變得更糟。
如果允許AI代理商用他們創建的語言講話，他們甚至不再需要人類干預。
AI是“最大風險”
馬斯克認為，人們應該害怕AI，並要求美國州長對該技術實施法規。
特斯拉首席執行官本月早些時候在羅德島州的國家州長協會夏季會議上說：“我接觸了最尖端的AI，我認為人們應該真正關心它。”
AI系統可以比人類更好地做各種事情，如果不進行檢查，可以成長為可以完全取代我們的東西。
