如何發現人工智慧虛假內容？

今年早些時候，新罕布夏州選民收到一條聽起來像總統拜登的電話留言，勸阻他們在該州初選中投票。 然而，線路上的聲音並不是真正的拜登的聲音，而是用人工智慧（AI）創建的機器人電話，旨在欺騙性地模仿總統。

人工智慧的興起使得創建看起來和聽起來都真實的虛假圖像、虛假視訊和篡改音訊變得比以往任何時候都容易。 隨著選舉的臨近，新興技術可能會在網路上充斥虛假訊息，從而可能影響、對我們民主的信任與行為。

南加州大學普萊斯公共政策學院包容性民主中心(CID) 主任明迪·羅梅羅(Mindy Romero) 表示：「民主取決於知情的公民和居民，他們盡可能充分參與並透過投票箱表達自己的意見和需求。

「令人擔憂的是，人們的信任程度不斷下降可能會幹擾選舉過程，助長不穩定和兩極分化，並可能成為外國干涉政治的工具。

羅梅羅最近舉辦了一場題為「人工智慧時代的選舉」的網路研討會，專家們在會上討論瞭如何識別人工智慧生成的虛假資訊以及政策制定者如何監管新興技術。

該小組成員包括加州大學柏克萊分校校長公共學者 David Evan Harris； Mekela Panditharatne，布倫南中心選舉與政府計畫顧問； 梅塔·史坦（Jonathan Mehta Stein），加州共同事業執行董事。

以下是打擊人工智慧產生的虛假資訊的一些提示和政策建議：

如何識別和忽略虛假訊息

• 保持懷疑。 持懷疑態度並不是壞事羅梅羅指出，總的來說。 如果新聞看起來不太正確，如果它聳人聽聞，或引起強烈的情緒？
• 跨多個來源進行確認。 如果您看到某個圖像或影片過於完美地表達了某人的觀點，請確認，或攻擊候選人？
• 他說：“我們正處於一個時代，你不再相信它，不再轉發它，不再分享它，而是必須去仔細檢查它。” “你必須用谷歌搜尋它。看看它是否被其他來源報導過。看看它是否被揭穿了。”
• 使用來自可信來源的新聞。 使用來自可靠來源的資訊是打擊虛假資訊的一種方法。 羅梅羅說，人們也應該確定一篇文章是新聞還是觀點。

「人們很難保護自己免受虛假資訊的侵害。這是一項艱鉅的工作，」羅梅羅補充道。 “一般來說，這一領域的推動力是討論政府和政策制定者如何採取行動來支持社區。”

政策制定者可以做些什麼

當美國政策制定者試圖解決人工智慧產生的虛假資訊時，他們可以從歐洲找到靈感。 歐盟數位服務法案要求哈里斯說，他們與大型線上平台合作，評估其產品對社會（包括選舉和民主）可能構成的風險。

哈里斯補充說：“然後他們必須提出風險緩解措施，並且必須聘請獨立審計師來審核他們的風險評估計劃和風險緩解計劃。” 他指出，歐洲法律還要求科技公司向獨立研究人員提供資料存取權限，以研究其產品如何影響，包括民主和選舉。

史坦表示，在加州，已有數十項法案試圖監管人工智慧。 一項值得注意的提案要求產生人工智慧公司將數據嵌入到他們創建的數位媒體中。 這將使線上用戶知道哪些圖像、視訊和音訊是人工智慧生成的、它們是何時創建的以及由誰製作的。 該法案還要求社群媒體平台使用這些數據來標記人工智慧假貨。

史丹說：“因此，如果你瀏覽 Twitter、Facebook 或 Instagram，發現某些東西是人工智慧生成的，根據該法案，它需要在某處攜帶一個小標籤，表明它是人工智慧生成的。”

在聯邦層面，國會有一些法案將規範人工智慧在政治廣告中的使用，並為地方選舉辦公室發布有關人工智慧對選舉管理、網路安全和，潘迪塔拉特納說。 聯邦政府也發布了關於生成式人工智慧風險管理的指南，其中包括可能與選舉官員相關的資訊。

「但到目前為止，我們還沒有看到任何專門針對人工智慧使用而客製化的指南潘迪塔拉特尼說。 “因此，這是一個空白，在我們看來，填補這個空白很重要。”