专家警告说，隐蔽的人工智能可能会带来新的“意图经济”

会话型剑桥大学研究人员表示，人工智能工具可能很快就会在名为“意图经济”的新商业领域“秘密影响”用户的决策在报纸上警告周一发布。

该研究认为，“数字意图信号”市场的潜在“利润丰厚但令人不安”的市场可能在不久的将来影响从购买电影票到为政治候选人投票的一切事物。

它补充说，我们对聊天机器人、数字导师和其他所谓的“拟人化”人工智能代理的日益熟悉正在帮助实现这一系列新的“说服性技术”。

该论文的两位合著者指出，人工智能将把我们的在线习惯知识与不断增强的了解用户、预测他或她的愿望的能力结合起来，并建立“新的信任和理解水平”。

来自剑桥利华休姆未来智能中心 (LCFI) 的两人在《科学》杂志上发表的论文中指出，如果不加以控制，这可能会导致“工业规模的社会操纵”。哈佛数据科学评论。

它描述了这个被称为“意图经济”的新兴行业如何分析用户的注意力和沟通方式，并将它们与他们所做的行为模式和选择联系起来。

“人工智能工具已经被开发出来，用于引出、推断、收集、记录、理解、预测，并最终操纵和商品化人类的计划和目的，”合著者 Yaqub Chaudhary 说。说。

研究表明，新的人工智能将依靠所谓的大型语言模型（LLM）来定位用户的节奏、政治、词汇、年龄、性别、在线历史，甚至是奉承和奉承的偏好。

这将与其他新兴人工智能技术联系起来，这些技术旨在实现特定目标，例如出售电影旅行，或将对话引向特定平台、广告商、企业甚至政治组织。

合著者乔尼·佩恩警告：“除非受到监管，否则意图经济会将你的动机视为新货币。”

“对于那些瞄准、引导和兜售人类意图的人来说，这将是一场淘金热，”他补充道。

“在我们成为其意外后果的受害者之前，我们应该开始考虑这样的市场可能对人类愿望产生的影响，包括自由公正的选举、新闻自由和公平的市场竞争。”

佩恩指出，公众对这个问题的认识是“确保我们不走上错误道路的关键”。

©法新社