1 月 7 日星期二,克拉拉·查帕斯 (Clara Chappaz) 參觀了該州數位調查服務機構 Viginum 的所在地,該機構負責識別和分析外國干涉的企圖。有機會評估“Viginium 資源的水平和穩健性”,以及該服務在打擊資訊操縱行動中遇到的挑戰。對於他的部門負責人馬克·安托萬·布里蘭特(Marc Antoine Brillant)來說,今天我們看到「我們的對手希望淡化公眾輿論中操縱的信息」。
兩極化的辯論,深度造假,在社交網路上人為推送的主題…本週二,1 月 7 日,來自該機構 Viginum 的團隊與外國干涉和操縱訊息,接待了人工智慧(AI)和數位技術部長克拉拉·查帕斯(Clara Chappaz)的來訪。
«出於安全原因”,沒有記者能夠參加這次旅行。該服務隸屬於國防和國家安全總秘書處 (SGDSN),其任務是檢測和分析在線平台上非常具體的資訊操縱活動:「c它們涉及外國行為者,旨在破壞國家根本利益穩定»。
前一天,提前為媒體準備了簡報。有機會了解到部長打算在訪問期間確保“Viginium 資源的水準和穩健性»,特別是透過與資料科學家和“數據實驗室» 服務的內容。對球隊來說,這也是為了強調他們的防守任務,而這往往不為大眾所知。
既不是情報部門,也不是司法警察部門
維吉努姆,被描述為“公共當局的武裝部隊”,甚至是“法國抵禦外國干涉的盾牌”,都不是“情報部門“, 是 ”可以提出請求的司法警察部門»,該機構負責人馬克·安托萬·布里蘭特 (Marc Antoine Brillant) 回憶道。該實體力求成為了解外國對手在做什麼”每次都有這樣的想法「舉行遊行»,強調了服務負責人。因此,它的作用不是對事實發表意見,而是確定“外國行為者使用的操作方法、傳播技術(平台上的虛假資訊),無論是否公開»,Viginum 總監繼續說。
線上調查工作是為了 Arcom 的利益並代表歐盟委員會進行的。從DSA,歐洲數位服務法規s,像 X、YouTube、Instagram 甚至 TikTok 這樣的平台事實上必須尊重“加強審核和刪除受操縱資訊的義務」。他們還必須“限制假訊息活動的病毒式傳播,破壞我們的民主»,部長的隨行人員回憶道。而Viginum的作用恰恰是「記錄並具體化這些平台的不足或限制», 足以為歐盟委員會正在進行的調查提供資料。
盤點平台合作
該服務已實施“溝通管道» 與 YouTube、X、Instagram 等主要平台合作。 “我們與他們共享檢測元件,他們根據他們想要告訴我們的內容給我們答案。»,馬克·安托萬·布里蘭特 (Marc Antoine Brillant) 解釋道。
這次訪問的挑戰之一也是盤點平台目前的合作情況,以及如何提高合作水準。 “在存取資料、特別是 API 方面出現了一些問題,儘管不點名,但仍存在某種形式的異質性(不同平台之間)», 解釋部長的隨行人員。 “我們希望平台能夠與有關部門充分合作。這是他們根據 DSA 的責任和保護我們的民主國家的責任「克拉拉·查帕斯部長在本週二發布的新聞稿中宣稱。
在過去 16 個月中,確定了 8 項活動
具體來說,Vaginum 檢測到“每年 230 到 300 種現象”,這導致觀察到“數十種外國數位幹擾」。哪些? “在過去的16個月裡,我們與歐洲部和外交部的同志在各種報告中譴責了八項針對法國公共辯論的運動。毫無疑問,這兩位演員(…)最具攻擊性(…)是親俄羅斯演員和親阿塞拜疆演員»。
Viginum導演也回歸三人組最近觀察到的人工智慧的主要惡意使用。開源生成式人工智慧工具用於產生“可信、非常真實的虛假內容”,我們稱之為深度偽造。人工智慧也使得「創建不真實但非常現實的帳戶 »,甚至「在多個平台上大規模發行內容“,他強調。
“我們的對手希望淡化輿論操縱的訊息”
為了檢測它們,Viginum 自 2021 年 7 月創建以來就為自己配備了“數據科學及人工智慧卓越中心」。服務已發展基於電腦程式和統計計算的工具。後者這些「允許圍繞關鍵字、主題標籤等進行辯論,以便能夠檢測機器人或巨魔的數量」。其他自製工具用於“回到初次內容發行商。» 系統 «還可以檢測基於人工智慧的內容重複»,馬克·安托萬·布里蘭特 (Marc Antoine Brillant) 解釋道。
但今天,這項服務必須面臨一個重大挑戰:“區分綜合辯論所涉及的內容(由 AI 創建用於操縱目的,編者註) 真實或自然的辯論»,經理補充道。部門負責人指出了某種願望“我們的對手在公眾輿論中淡化被操縱的訊息。從長遠來看,在公眾輿論中淡化這種被操縱資訊的方法之一(…)可能是更多地求助於人工智慧,也就是說,合成內容»。