Google前工程师对AI聊天机器人的风险表示担忧

前Google工程师Blake Lemoine对与AI驱动的聊天机器人相关的风险表示担忧。按照他，这些正在开发的AI机器人是原子弹以来最强大的技术。

AI聊天机器人的力量

工程师布雷克·莱莫因（Blake Lemoine）在2022年7月违反了公司的机密政策后被Google解雇。他声称，包括Google目前正在开发的人工智能聊天系统是有价值的。在新闻周刊的意见文章，他说他对AI聊天机器人的风险的担忧，因为他的恐惧是实现的。

根据Lemoine的说法，最新模型是自原子弹以来最有效的技术进步。通过这项强大的技术，它可以从根本上改变历史的发展。当他测试Microsoft的Bing AI Chatbot时，他表示担忧。辩护词不足以捕捉他在这种情况下的感受。

他写道：“基本上不可能进行与我在Google的LAMDA上进行的相同实验。它不断保释。”这可能会被滥用，以分发有关人们的不同背景的虚假信息，政治宣传或贬义信息，这些信息可能会带来潜在的问题。

他用火车残骸作为隐喻来解释他对此的感觉。 Lemoine表示，即使人们告诉您没有火车残骸是悲惨的，尤其是当他观看事件实时发生时，预测火车残骸。

他还指出，他希望看到AI通过更多的测试进行，然后才被释放给公众，以避免潜在的滥用，风险和操纵消费者的能力。这项技术仍然是实验性的，他声称这是非常危险的，因为几家公司现在开始发布它。

业务内部人士报道说，当Lemoine声称Google的AI在6月成为有程度的实体时，该公司的发言人表示，没有证据支持前工程师的主张。

发言人指出：“数百名研究人员和工程师已经与LAMDA进行了交谈，我们不知道其他任何人都在做出广泛的断言或拟人化的LAMDA，就像Blake的方式一样。”然后，下个月，他因违反就业和数据安全政策而被Google解雇。

同时，Google的高级副总裁兼搜索引擎负责人警告AI可能导致幻觉。他指出，依靠AI机器人只能保持最低限度，以减少不必要的效果并经历这些缺点。

AI模型是“不威胁”

同时，微软联合创始人比尔·盖茨（Bill Gates）将AI模型描述为一代历史的技术。有趣的工程报道说，他认为这主要是因为用户试图发现欺骗模型编程做错事的方法，将挑衅变成了游戏。

他认为，AI模型没有威胁，因为如果您引起系统，应该指责谁应该被指责。