研究人員對法國、義大利和德國所謂的「數位民粹主義」進行了評估。他們擔心生成式人工智慧工具的使用會增加虛假資訊言論的影響。對於後者，目前的法律或技術工具將無法成功阻止人工智慧大規模產生或分發的仇恨或誤導性內容的傳播。
政客們說出了他們從未說過的句子，從未發生過的場景，這些場景證明了陰謀論……在接下來的競選活動中，虛假圖像和AI 生成的視頻將在社群網路上倍增。如果什麼都不做，我們該如何辨別真假呢？歐洲政策中心 CEPS 於 2023 年 10 月 10 日星期二發布了一項研究報告，產生人工智慧 (AI) 工具將極大地震撼歐洲下一次選舉，民主辯論將發生重大變化。這個位於法國、德國和義大利的智庫無疑已經敲響了警鐘。«如果我們考慮明年的歐洲選舉，現有的內容審核規則（如數位服務法規 (DSA），在生成式人工智慧時代已經過時了», 寫下研究的作者。
其中包括維克多·沃海姆（Victor Warhem），法國經濟學家、法國智囊團代表，他解釋說，對他來說，一切都是從對德國 AFD 某些做法的觀察開始的。01網。近幾個月來，德國極右翼使用了由中途移民似乎具有威脅性，他們的政治訊息也附在其中。四位研究人員會問自己“新人工智慧工具對網路政治話語的影響」。這些不會進一步使本已高度……兩極化的辯論變得兩極化嗎？
從「過濾氣泡」到人工智慧
隨著“過濾氣泡研究人員寫道，在社群網路中，個人面臨「r與我們共同的現實不同的過濾現實」。後者將不再相信«從其他過濾器中出現的訊息»，註釋該研究。但有了人工智慧，我們確實改變了規模。由於聊天GPT，MidJourney、Dall-E、Bard 和所有其他公司，現在創建內容變得簡單、快速且廉價”個性化錯誤訊息。人工智慧生成的「深度造假」甚至扭曲了我們對「真相」和共同的、客觀的共享現實的理解」。因此，選舉中的候選人可以利用其競爭對手的形象，讓他說或做任何事情——美國大選的共和黨候選人羅恩·德桑蒂斯（Ron DeSantis）已經對他的對手唐納德·特朗普做到了這一點。
那麼如何“保持理性辯論「在這樣的背景下？」研究人員問。根據後者的說法，“民粹主義者」（他們認為這個術語是“有爭議的» 等 «變色龍“，指定反對的事實”從“人民”到“腐敗精英”」）以前依靠社交網路開展活動，現在正在採用人工智慧 (AI)。維克多·沃漢姆強調說，這些系統將增強它們的打擊力量，賦予它們倍增的能力。
數位生態系統與人工智慧相結合“增加了民粹主義運動成功的機會”
«人工智慧讓政治“更容易、更便宜、更危險”“”，幾個月前我們的同事已經寫道彭博社。或者， ”人工智慧放大的假資訊活動的危險是非常真實的“，自從數位生態系統與人工智慧結合”最終增加民粹主義政治運動成功的機會»，該研究中引用的合著者之一 Camille Réau 警告。足以對民主構成真正的危險。
這項研究主要針對法國的 RN、LFI 和 Eric Zemmour 的政黨 Reconquête!，研究表明他們目前對人工智慧的使用仍然處於邊緣地位。 Victor Warhem 解釋說，特別是因為人工智慧時代還沒有真正的運動。例如，收復失地黨使用了 ChatGPT (ChatZ) 的複製品，這是來自 Eric Zemmour 的虛擬活動家，他會回答您的所有問題並試圖說服您投票給他的支持者。
瑪麗娜·勒龐的政黨則在社交網路上使用機器人，這使得在 X（以前的 Twitter）等社交網路上模擬某種惡名成為可能。 “透過自動產生推文並與其他用戶互動，機器人可以識別熱門話題、影響者，並充當擴音器來傳達訊息或經常有爭議的主題»，他們寫道。
誹謗和審核對人工智慧產生的假新聞內容無效
問題是，今天還沒有真正有效的法律武器來對抗仇恨言論或完全是錯誤的，旨在操縱我們。«如果明天，弗拉基米爾·普丁決定在歐洲選舉或美國選舉的背景下發動大規模假訊息攻擊：他的機器人大軍將不斷生成假視訊和虛假音訊。但是，我們沒有可用的工具來阻止此內容進入每個人的提要。這種事很快就會發生在我們身上，而我們卻無能為力。», 感到震驚維克多·沃海姆。 DSA 計劃的許多措施不會在 2024 年歐洲選舉之前全部實施。
為了打擊“平台上的數位民粹主義”，該研究的作者建議在人工智慧生成的內容不被廣播之前實施“事前”方法，也就是說上游。目前的措施，例如自動檢測和刪除被認為有問題的內容，將不再足夠，相信作者。對於“手動審核內容並建立新的監管機構 »。因為一旦內容被傳播，傷害就已經造成了。假新聞已經傳播了，最多只能在廣泛傳播後才會被刪除。
強制提及、內容傳輸緩慢、公民軍、同意…
作者提出了不同的措施來解決這個問題。對於人工智慧生成的內容，強制性的「人工智慧生成」標籤或清晰可見的標籤將使得人們能夠一目了然地區分真實的語音和虛假的、真實的視訊和深度偽造的視訊。但這種技術手段肯定還存在——現在還不是這樣。這項措施於去年六月被添加到歐洲良好行為準則清單中——這是一個不具約束力的規則體系。歐洲高層隨後詢問所有簽署方立即清楚地報告在其平台上發現的所有人工智慧產生的內容。
研究人員也提出了“內容傳輸緩慢»，例如，這會限制貼文的病毒式傳播——按讚和分享的數量有限。 “我們也可以強制平台將完全超出用戶意識形態範圍的內容引入用戶的提要中» – 這相當於對演算法進行改變，至少在選舉期間是如此。 「這完全違背了平台的利益，平台對用戶看到內容感興趣符合他們的意識形態、他們的願望”，以便他們在自己的平台上停留更長時間。
對於維克多·沃霍爾 (Victor Warhor)，法國在其國家建議中提出了額外措施確保數位技術安全的法案。和文章，10 月 10 日星期二由政府提交，提供“一種被選中的公民軍隊，引用，由政府團隊「標記」內容，然後將由平台上的內容管理員進行管理», 經濟學家解釋。該系統可以模仿維基百科的志願者內容管理員。一個其他擬議措施該專家補充道，將對那些未經同意傳播深度假貨的人進行懲罰。他繼續說，目標是限制深度偽造品用於有害目的。
對作者來說，2024 年的選舉將產生碰撞測試的效果。我們可能會意識到，目前的工具無法有效打擊假訊息，甚至是由人工智慧產生或透過人工智慧大規模傳播的操縱內容。他們認為，因此我們應該立即採取行動。因為在這樣的背景下，他們問，它還能「存在著一個歐洲「社會」——因此，一場集體的、全社會的辯論對於民主的長期生存至關重要»？
