«你說你工作太累了，我可以幫你訂我們說的電影票嗎？» 根據劍橋大學的兩位研究人員 Yaqub Chaudhary 博士和 Jonnie Penn 博士的說法，人工智慧（AI）巨頭很快就會出售我們的“意圖”，在定向廣告的贏家（Google、Facebook）吸引了我們的注意力之後。
英國大學萊弗休姆未來智慧中心（LCFI）的研究人員認為，如果當局不小心，將會出現“所有瞄準、驅動和兜售人類意圖的人的淘金熱»。
兩位專家在《科學》雜誌上發表的一篇文章中指出哈佛數據科學評論12月31日，聊天GPT、Mistral AI、Gemini、Claude 和其他生成式人工智慧 (AI) 工具可能很快就會「儘早預測並影響我們的決策，並在我們做出決定之前將這些「意圖」即時出售給能夠滿足需求的公司»。
拍賣系統
一家公司或一個團體尋求促進特定產品的銷售、推廣特定服務、在總統選舉中支持特定候選人？這樣就足以透過支付給人工智慧巨頭了拍賣系統類似於我們的個人數據，將此類對話代理的對話「引導」到贏得拍賣的產品或服務。
自從 ChatGPT 的出現以及生成式 AI 產生的熱情以來，這些工具實際上已經可以訪問“透過非正式對話收集的大量親密心理和行為數據»，請注意研究人員。 “人們交談時所說的話、怎麼說以及可以即時得出的推斷遠比簡單的線上互動錄音更加親密»，他們補充道。
幾個月來，人工智慧工具一直在尋求“引出、推斷、收集、記錄、理解、預測並最終操縱人類的計劃和目標並將其商業化」。兩位作者寫道：“後面的大量投資”，後面的“關於法學碩士未來的精彩演講», «核心野心» 人工智慧巨頭將使用生成式人工智慧“推論人類的偏好、意圖、動機等心理和認知屬性»。
作為證據，ChatGPT 背後的公司 OpenAI 在 2023 年 11 月 9 日的部落格文章中表示，«對反映人類社會的大規模資料集感興趣（…）。我們特別尋找以所有語言、所有主題和所有格式表達人類意圖的數據（例如，長篇寫作或對話，而不是斷開連接的片段）»。
一週後，時任 Shopify 產品總監（現任職於 OpenAI）的 Miqdad Jaffer 在 OpenAI 開發者大會上描述了以下內容：
«我們目前所處的連續體。聊天機器人進行幹預以明確獲取使用者意圖(…)»。或者， ”我們先了解使用者意圖，然後預測使用者意圖，然後預測使用者操作»。
這位英偉達執行長還解釋說，法學碩士可以用來理解意圖和願望。
可能的“工業規模的社會操縱”
具體來說，對話代理可以記錄很長一段時間“表明意圖的行為和心理數據» 並為此做出決定。 “雖然有些意圖轉瞬即逝，但對持續存在的意圖進行分類和定位將為廣告商帶來極大的利潤», 兩位研究者寫的。然後，這些數據將被分類，與線上歷史、年齡、性別、詞彙、政治傾向，甚至特定用戶被說服並因此被操縱的方式相關聯。
研究人員擔心的是，他們認為這是時間到了反思這樣一個意向市場對我們民主標準可能產生的影響，「包括自由公正的選舉、新聞自由和公平的市場競爭」。因為對於後者，我們確實正處於可能的曙光之中「工業規模的社會操縱」。
