人工智能最近有大量的起伏。在广泛地被视为人工智能（AI）研究人员的关键里程碑的过程中，一个系统在一场精神错综复杂的棋盘游戏中击败了前世界冠军。但是，就在一周后，一个“聊天机器人”旨在从与人类在Twitter上的互动中学习的“聊天机器人”在社交网站上具有很高的公共种族主义崩溃。
这是怎么发生的，这对AI的动态场？
3月初，Google制造的人工智能系统击败了前世界冠军李·塞多尔（Lee Sedol）在一场名为GO的古代中国游戏中进行了四场比赛，该比赛比国际象棋更复杂，该棋子以前被用作评估机器智能进度的基准。在Google AI的胜利之前，大多数专家认为，几十年来，机器才能击败排名最高的人。 [超级智能机器：7机器人期货这是给出的
但是，微软在这场胜利的高跟鞋上崭露头角，在Twitter上推出了一个名为Tay的AI系统，该系统旨在模仿一个19岁的美国女孩。 Twitter用户可以在Tay上发推文，微软表示，AI系统将从这些交互中学习，并最终在与人类沟通方面变得更好。在聊天机器人开始吐出种族主义，厌恶女性和性明确的信息之后，该公司仅16小时后就被迫插入实验。这公司道歉，将“协调的攻击”归咎于“漏洞”和“技术漏洞”。
尽管微软使用语言似乎暗示该系统成为黑客的受害者，但康奈尔大学计算机科学教授AI专家Bart Selman表示，所谓的“脆弱性”是Tay似乎在没有任何过滤器的情况下在推特上重复了短语。毫不奇怪，从聊天机器人到重复炎症短语的“ lolz”对某些人来说太多了。
塞尔曼说，他感到惊讶的是，微软并没有以足够的保障措施来防止这种情况，但他告诉《现场科学》，该事件突出了现代AI的主要弱点之一：语言理解。
教AI
AI非常擅长解析文本 - 也就是说基于语言的语法模式- 塞尔曼说，这允许像Tay这样的聊天机器人创建听起来像人类的句子。这也是Google和Skype令人印象深刻的翻译服务的动力。他补充说：“但这与理解语义 - 句子的含义是不同的。”
AI技术最近的许多进步都归功于一种称为深度学习的方法，在某种程度上，这模仿了神经元在大脑中的表现方式。鉴于大量数据，它非常擅长寻找模式，这就是为什么其许多最大成功的原因是图像或语音识别等知觉任务。 [人工智能的简短历史这是给出的
牛津大学计算机科学系副教授Shimon Whiteson表示，虽然需要告知要进行机器学习的方法以“学习”，但深度学习的主要优点之一是，这些系统具有“自动特征发现”。
该网络的第一层被优化，以在数据中查找非常基本的功能，例如图像中对象的边缘。然后将该输出馈送到下一层，该输出扫描以获取更复杂的配置，例如正方形或圆圈。将此过程重复上层，每个过程都在寻找越来越复杂的特征，以便到系统达到较高级别时，它能够使用下层检测到的结构来识别汽车或自行车之类的东西。
“有了深入的学习，你可以将原始数据馈送到一些大神经网络中然后，这是端到端训练的，”怀特森告诉《现场科学》。
高收益
这导致了一些超人的能力。塞尔曼（Selman）表示，深入学习系统已显示出在MRI扫描中诊断疾病的表现。加拿大AI AI初创公司Maluuba的首席技术官兼联合创始人Kaheer Suleman说，将方法与所谓的加固学习结合在一起，其中机器使用奖励信号来磨练最佳策略，也成功地完成了可以构建准确的虚拟模拟的任务。Google的AI系统，称为Alphago，通过发挥自己数百万次并使用这种方法来提高其技能并制定策略的组合成为专家。
Suleman说：“对AI的巨大挑战是在没有大量标记数据或无法很好地模拟环境的领域。” “语言是这样一个领域的一个很好的例子。互联网包含无尽的文本，但没有任何地方的“以某种机器可见形式标记”。
Maluuba正在开发可以阅读文本并回答有关它的问题的算法，但Suleman说，语言的一些功能使这尤其困难。一个，语言非常复杂- 含义分布在多个层次上，从单词到短语再到句子。这些可以以无限数量的方式组合在一起，并且每个人使用语言的使用方式都不同。
所有语言都是抽象的；单词只是机器经常无法体验到的现实世界中事物的符号。
“从机器学习，博学的系统仅与您提供的数据一样好。” Whiteson说。
没有访问人类积累的物理世界和社会互动丰富的数据的一生大屠杀是，更不用说为什么否认它是不合适的。
展望未来
尽管面临这些挑战，但Maluuba上个月向Arxiv发表了一篇论文，Arxiv是一个用于预印本研究论文的在线存储库，描述了其系统如何能够以超过70％的准确性回答有关不熟悉文本的多项选择问题，超过70％的神经网络方法，甚至超过15％，甚至超过了手工编码的方法。马鲁巴的方法将深度学习与神经网络结构，以一种相互作用的方式进行了设计，即相互作用会导致基本的推理形式。该公司还正在研究可以学会与人类进行自然对话的口语对话系统。
塞尔曼说，以语言为中心的人工智能对于受主题受到相当限制的应用程序的出人意料。例如，技术求助热线是他预计很快就会自动化的事情（在某种程度上），相对高级的管理工作也可以归结为常规互动，例如更新电子表格并发送公式化电子邮件。
塞尔曼说：“在这些不受控制的，非常开放的环境中，弱点暴露了，涉及人类智力的多个方面，同时也真正理解了其他人。”
但是，怀特森说，这肯定在这方面取得了进步Google的自动驾驶汽车是一个很好的例子。他补充说，与人类共享街道要求机器不仅要理解道路规则 - 还需要能够遵循未阐明的社会规范并在避免碰撞时应对道德困境。
随着人工智能和机器人技术的进步导致现实世界中使用的机器数量的越来越多，与人类互动的能力不再是科幻狂热者的崇高目标。现在，研究人员正在寻找可以帮助机器不仅感知的机器，而且了解周围世界的新方法。
怀特森说：“深度学习很棒，但这不是银色子弹。” “仍然缺少很多事情。因此，人们正在努力的下一步是我们如何将事物添加到深度学习中，以便它可以做更多的事情。”
“现在所有这些关于我们想要机器做什么的棘手问题，以及我们如何确保他们做到这一点变得很重要，因此人们现在开始更加专注于它们。”
遵循现场科学@livescience，，，，Facebook和Google+。原始文章现场科学。
