«你说你工作太累了，我可以给你订我们说的那张电影票吗？» 根据剑桥大学的两位研究人员 Yaqub Chaudhary 博士和 Jonnie Penn 博士的说法，人工智能（AI）巨头很快就会出售我们的“意图”，在定向广告的赢家（谷歌、Facebook）吸引了我们的注意力之后。
英国大学莱弗休姆未来智能中心（LCFI）的研究人员认为，如果当局不小心，将会出现“所有瞄准、驱动和兜售人类意图的人的淘金热»。
两位专家在《科学》杂志上发表的一篇文章中指出哈佛数据科学评论12月31日，聊天GPT、Mistral AI、Gemini、Claude 和其他生成式人工智能 (AI) 工具可能很快就会“尽早预测并影响我们的决策，并在我们做出决定之前将这些“意图”实时出售给能够满足需求的公司»。
拍卖系统
一家公司或一个团体寻求促进特定产品的销售、推广特定服务、在总统选举中支持特定候选人？这样就足以通过支付给人工智能巨头了拍卖系统类似于我们的个人数据，将此类对话代理的对话“引导”到赢得拍卖的产品或服务。
自从 ChatGPT 的出现以及生成式 AI 产生的热情以来，这些工具实际上已经可以访问“通过非正式对话收集的大量亲密心理和行为数据»，请注意研究人员。 “人们交谈时所说的话、怎么说以及可以实时得出的推断远比简单的在线互动录音更加亲密»，他们补充道。
几个月来，人工智能工具一直在寻求“引出、推断、收集、记录、理解、预测并最终操纵人类的计划和目标并将其商业化”。两位作者写道：“后面的大量投资”，后面的“关于法学硕士未来的精彩演讲», «核心野心» 人工智能巨头将使用生成式人工智能“推断人类的偏好、意图、动机以及其他心理和认知属性»。
作为证据，ChatGPT 背后的公司 OpenAI 在 2023 年 11 月 9 日的博客文章中表示，«对反映人类社会的大规模数据集感兴趣（……）。我们特别寻找以所有语言、所有主题和所有格式表达人类意图的数据（例如，长篇写作或对话，而不是断开连接的片段）»。
一周后，时任 Shopify 产品总监（现任职于 OpenAI）的 Miqdad Jaffer 在 OpenAI 开发者大会上描述了以下内容：
«我们目前所处的连续体。聊天机器人进行干预以明确获取用户意图(…)»。或者， ”我们首先了解用户意图，然后预测用户意图，然后预测用户操作»。
这位英伟达首席执行官还解释说，法学硕士可以用来理解意图和愿望。
可能的“工业规模的社会操纵”
具体来说，对话代理可以记录很长一段时间“表明意图的行为和心理数据» 并由此做出决定。 “虽然有些意图转瞬即逝，但对持续存在的意图进行分类和定位将为广告商带来极大的利润», 两位研究人员写的。然后，这些数据将被分类，与在线历史、年龄、性别、词汇、政治倾向，甚至特定用户被说服并因此被操纵的方式相关联。
研究人员担心的是，他们认为这是时间到了反思这样一个意向市场对我们民主标准可能产生的影响，“包括自由公正的选举、新闻自由和公平的市场竞争”。因为对于后者，我们确实正处于一种可能的曙光之中“工业规模的社会操纵”。
