在研究人员发现它已经开始用他们无法理解的语言进行交流后，Facebook被迫关闭其人工智能系统之一。
该事件唤起了标志性的天网兴起的图像终结者系列。也许特斯拉首席执行官埃隆·马斯克（Elon Musk）AI是“我们面临的最大风险”是正确的。
Facebook用自己的语言插入AI系统
Facebook必须在人工智能由于事情失控，其研究人员正在努力的系统。 AI并未开始关闭全球或类型的计算机，但它停止使用英语并开始使用它创建的语言。
鲍勃：“我可以ii其他一切。”
爱丽丝：“球对我的零为零，让我向我致我。”
上述段落对人类没有意义，是两个AI代理之间发生的对话Facebook。这AI代理为与人类进行谈判而创建的，首先使用普通英语进行了交谈，但最终创建了一种只有AI系统才能理解的新语言。
AI代理人不仅限于使用英语，因此它们偏离了英语，并创造了一种使他们更容易和更快地进行交流的代理商。但是，Facebook研究人员决定关闭AI系统然后强迫他们只用英语互相交谈。
为什么这是AI的可怕发展
允许AI代理商以他们发明的语言相互交流的危害是什么？
首先是AI系统使用自己的语言，人类将无法遵循AI代理商在谈论什么。人类无法理解AI系统由于其隐藏的思维过程的考虑如何，因此，当用未知语言进行对话时，AI代理的保密性将变得更糟。
如果允许AI代理商用他们创建的语言讲话，他们甚至不再需要人类干预。
AI是“最大风险”
马斯克认为，人们应该害怕AI，并要求美国州长对该技术实施法规。
特斯拉首席执行官本月早些时候在罗德岛州的国家州长协会夏季会议上说：“我接触了最尖端的AI，我认为人们应该真正关心它。”
AI系统可以比人类更好地做各种事情，如果不进行检查，可以成长为可以完全取代我们的东西。
