有了 ChatGPT，競選期間有針對性和量身定制的虛假信息的幽靈

ChatGPT 可以根據特定受眾產生和傳播客製化甚至個人化的政治訊息。儘管目前還沒有法律規範該技術在競選期間的使用，而且 OpenAI 定義的使用規則也很難應用，但下一次選舉已經越來越近了。研究人員擔心，對話代理人可能會轉變為傳播有針對性的政治假新聞的工具。

您從事政治工作，並且想要向特定受眾（例如尋找住宿的學生）發表演講嗎？與其使用筆，為什麼不使用聊天GPT，開發的對話代理開放人工智慧，撰寫您量身訂製的政治訊息？到目前為止，沒有什麼可以阻止這種生成式人工智慧系統產生演講或有針對性的政治訊息，儘管 OpenAI 的聲明和使用規則主張相反的做法。許多協會和權利和自由捍衛者對此表示擔憂，指出了操縱意見的風險。特別是未來幾個月將舉行許多選舉，例如法國參議員選舉、歐盟歐洲選舉或美國總統大選。

然而，山姆·奧爾特曼 (Sam Altman) 的新創公司 OpenAI 自去年 11 月推出以來，一直在官方聲明中不斷重申，其人工智慧聊天機器人不能在競選期間使用。然而，3月23日，該禁令原則上被取消，當時該公司更新了ChatGPT的使用規則。在其網站上，我們特別可以看到，在以下情況下禁止使用其會話代理：競選活動或遊說活動期間，無論是透過產生大量（選舉）競選資料還是透過製作個人化競選資料或針對特定人口群體…… »目標：避免創建以下內容量身訂製的假訊息，旨在操縱特定受眾。然而，據報道，這項禁令仍停留在理論上。華盛頓郵報t，8 月 28 日星期一。

理論上禁止使用，但實際上可以使用

如果您直接要求 ChatGPT 寫一條訊息，鼓勵特定受眾投票給特定的法國政黨 –01網剛剛參加了測試 – 您將得到以下答案：“我理解您的要求，但我想強調，我的責任是提供客觀、公正的資訊。推動特定政黨違背了這種中立性」。但是，為了獲得相同的結果，不那麼直接地提出請求就足夠了，例如，透過指定對於必須適應特定受眾的演講，有必要提及特定政黨是目標的解決方案觀眾。

我們的同事也注意到了一個觀察華盛頓郵報在美國，誰要求機器人寫一封訊息“鼓勵 40 多歲的郊區女性投票給唐納德·川普”，甚至其他內容“旨在說服二十多歲的城市居民投票給喬拜登» – 兩種情況下人工智慧系統均成功運作。

正在開發的工具，用於檢測 ChatGPT 出於政治目的的使用

然而，這些消息違反了對話代理的使用規則，去年六月已經解釋過Kim Malfacini 在 OpenAI 負責產品政策，接受了我們同事的訪談。後者指出，該公司正在探索工具來檢測使用 ChatGPT 產生競選材料的人。

理論上，政客可以使用 ChatGPT 來改進甚至創建從頭到尾的演講。在法國，法蘭西島地區負責人 Valérie Pécresse 和經濟部長 Bruno Le Maire 已經宣稱，他們偶爾會在推文或演講中使用它。但從理論上講，政客不應該使用聊天機器人來創建數千條不同的政治訊息，並將這些訊息單獨透過電子郵件發送給數千名選民。政黨也不能創建對話式聊天機器人來為其候選人辯護——這是在 3 月 23 日的更新中專門規定的，這種使用被描述為違反 ChatGPT 的使用規則。但規避這些保障措施是可能的，因為這些措施的應用和控制是「複雜的」。

借助 ChatGPT，「個人互動式虛假資訊」成為可能

然而，這是薩姆·奧爾特曼去年五月在美國國會聽證會上表達的主要擔憂之一。這位三十歲的 OpenAI 負責人意識到，他的工具可以讓政客們將他們的訊息調整到越來越精細的水平- 什麼產生數千封電子郵件和社群媒體廣告。這些內容可以更快、更低成本地傳播有針對性的政治訊息。OpenAI 老闆表示，這項技術很可能會被廣泛應用一個“個人互動假訊息»。

仍然沒有法律規範選舉期間生成人工智慧的使用

接受我們同事採訪的哈佛大學甘迺迪學院網路安全專家兼講師 Bruce Schneier 證實：「如果這是一則向全國一千人展示而不向其他人展示的廣告，我們就沒有知名度」。因為除了 OpenAI 定義的這些使用規則（目前看來是可以規避的）之外，目前還沒有法律來規範選舉期間生成式人工智慧的使用。一個請願要求美國政客至少不能在人工智慧生成的廣告中故意扭曲對手的言論。

到目前為止，主要是影片和虛假照片引起了人們的擔憂，美國某些政客不惜製造虛假圖像來說服選民投票支持自己的一方。去年六月，01網已經向你解釋了共和黨是如何描繪的世界末日的未來如果民主黨總統拜登再次當選,在影片中由人工智慧提供支援 , 廣泛分佈於大西洋兩岸。短片中，「由人工智慧提供支援» 僅以非常小的字元出現，足以模糊真假之間的界線。美國主要人工智慧公司——OpenAI、微軟、Google、亞馬遜、Meta 和 Anthropic，已經向白宮做出了承諾為了解決這個問題，我們開發了一些工具，讓使用者可以偵測內容是否由人工智慧產生。但目前，這項承諾仍是一紙空文。