當人工智慧使政治深度偽造成可能時

侵台戰爭中國、金融市場崩潰、洛杉磯犯罪爆炸……在一段看似現實的 33 秒影片中，但其中只包含虛假資訊和圖像，這段影片用令人痛苦的音樂描繪瞭如果喬·拜登再次當選。在左上角，幾乎看不見，字體特別小，我們可以看到“生成者人工智慧(IA)»（«完全使用 AI 圖像構建”）。這段影片非常正式地來自共和黨，去年四月，在民主黨總統喬拜登宣布競選總統後，共和黨播出了這段影片。

大規模假訊息的風險

這個案例絕非孤例。最近，共和黨總統候選人、佛羅裡達州州長羅恩·德桑蒂斯用人工智能製作了另一個視頻，這次的目的是抹黑他的競爭對手唐納德·特朗普：我們可以看到前總統擁抱美國新冠先生安東尼·福奇的場景那從未發生過。隨著美國大選的臨近，這種看似誇張的影片可能會在未來幾週內大量增加。這是世界各地專家特別擔心的問題。因為“人工智慧可以在工業規模上產生虛假資訊”，提醒麥可伍德里奇我們的同事監護人英國艾倫圖靈研究所人工智慧研究主任。

如何建構這些政治深度造假事件？

對某些人來說，是時候了規範此類視頻如果可能的話，在選舉期開始之前為選舉目的傳播並由人工智慧產生。因為人工智慧可以增加虛假資訊或令人震驚的圖像來說服甚至操縱選民。但整個問題在於如何監管：當線上平台和社交網路已經難以消除虛假訊息，並且仍然對用戶分發的內容不負責任時，如何監管這些政治深度造假、這些低成本製作的影片或圖像在他們的平台上？

據報道，在美國阿克西奧斯6 月 20 日星期二，這種做法目前既沒有被禁止也沒有受到監管。這項技術易於取得且價格低廉，使政黨能夠比在會議上演講更有效地傳達訊息。然後，這些影片會在社群網路上大量傳播，在最好的情況下，還會有一個不顯眼的提示，警告它們是由人工智慧產生的。

據報道，在該國，在聯邦層面，沒有任何規定禁止將這項技術用於政治目的，但美國聯邦選舉委員會於 6 月 20 日星期二解釋說，它正在考慮制定針對政治深度偽造的法規阿克西奧斯。這可能包括人工智慧生成的廣告，旨在欺騙用戶將其視為“虛假申報»，此類別已受到現行法律的認可。我們的同事指出，對於經常禁止旨在操縱公眾的內容的線上平台和網絡，我們不會抱太大期望。

新法、強制性資訊、候選人的承諾？

然而，谷歌解釋說阿克西奧斯那 ”所有廣告，包括選舉廣告，都必須遵守我們的服務使用條款和條件，無論其製作方式如何。這些規則已經禁止使用被操縱來誤導人們的媒體，例如深度偽造或篡改的內容，以及公然宣傳有關選舉的虛假信息的廣告」。但對於Common Cause 的虛假信息分析師艾瑪·斯坦納（Emma Steiner）接受了我們同事的採訪，平台“不願意對不斷演變的假訊息敘事採取行動»。

那麼是否需要製定新的法律呢？這是議員伊維特·克拉克(Yvette Clarke)的想法，她上個月向美國國會提交了一個項目。我們可以在本文中讀到“生成人工智慧領域的突破性創新» 容易受影響 «以前所未有的速度大規模加劇和傳播假訊息」。它要求公眾至少知道，當政治廣告包含人工智慧創建的內容時，這些圖像是由人工智慧產生的。在歐盟內部，未來對人工智慧的監管也規定了強制通知，告知用戶人工智慧的使用情況。但這項提及很容易被刪除，批評一些認為有必要採取額外措施或保障措施的人。