專家警告說，隱藏的人工智慧可能會帶來新的“意圖經濟”

會話型劍橋大學研究人員表示，人工智慧工具可能很快就會在名為「意圖經濟」的新商業領域「秘密影響」用戶的決策在報紙上警告週一發布。

該研究認為，「數位意圖訊號」市場的潛在「利潤豐厚但令人不安」的市場可能在不久的將來影響從購買電影票到為政治候選人投票的一切。

它補充說，我們對聊天機器人、數位導師和其他所謂的「擬人化」人工智慧代理的日益熟悉正在幫助實現這一系列新的「說服性技術」。

論文的兩位合著者指出，人工智慧將把我們的線上習慣知識與不斷增強的了解用戶、預測他或她的願望的能力結合起來，並建立「新的信任和理解水平」。

來自劍橋利華休姆未來智慧中心 (LCFI) 的兩人在《科學》雜誌上發表的論文中指出，如果不加以控制，這可能會導致「工業規模的社會操縱」。哈佛數據科學評論。

它描述了這個被稱為「意圖經濟」的新興行業如何分析用戶的注意力和溝通方式，並將它們與他們所做的行為模式和選擇聯繫起來。

「人工智慧工具已經被開發出來，用於引出、推斷、收集、記錄、理解、預測，並最終操縱和商品化人類的計劃和目的，」合著者 Yaqub Chaudhary 說。說。

研究表明，新的人工智慧將依靠所謂的大型語言模型（LLM）來定位使用者的節奏、政治、詞彙、年齡、性別、線上歷史，甚至是奉承和奉承的偏好。

這將與其他新興人工智慧技術聯繫起來，這些技術旨在實現特定目標，例如出售電影旅行，或將對話引向特定平台、廣告商、企業甚至政治組織。

合著者喬尼佩恩警告：“除非受到監管，否則意圖經濟會將你的動機視為新貨幣。”

「對於那些瞄準、引導和兜售人類意圖的人來說，這將是一場淘金熱，」他補充道。

「在我們成為其意外後果的受害者之前，我們應該開始考慮這樣的市場可能對人類願望產生的影響，包括自由公正的選舉、新聞自由和公平的市場競爭。”

佩恩指出，公眾對這個問題的認識是「確保我們不走上錯誤道路的關鍵」。

©法新社