正如2024年美國總統選舉的方法一樣，數字信息完整性專家警告說，人工智能（AI）生成的材料的使用日益增長，可能會混淆或誤導選民。
由於新興的人工智能技術，人們對在政治運動期間傳播虛假信息的擔憂正在增長產生令人信服的文字，現實的視覺效果，甚至是視頻和音頻。
隨著競選活動的加劇和選舉的臨近，華盛頓大學教授，知情公眾的聯合創始人傑文·韋斯特（Jevin West）這樣的專家強調了AI可能產生的潛在影響，這是公眾已經目睹的。
選舉誠信有風險
由於社交媒體公司是數十億人尋找信息和不誠實個人經常傳播不正確信息的場所，因此他們必須應對這些危害。
但是，這些企業必須克服的多種障礙使得跟上即將到來的不准確選舉相關的材料的海嘯越來越具有挑戰性。
選舉的誠信，安全和負責任的AI團隊由於許多大型社交網絡而減少了他們在過去幾個月中與選舉相關的虛假信息的執法工作，因此裁員了。
此外，最近的一名聯邦法官裁定限制了美國當局與社交媒體公司之間的聯繫，這也強調了有關管理與選舉有關的錯誤信息的擔憂。
儘管上訴法院暫時阻止了禁令，但該判決強調了社交媒體公司具有挑戰性的環境必須穿越。
由於出現了生成的AI技術，因此2024年的活動和選舉具有顯著的高風險，這些技術的出現使得使用計算機生成的語音，視頻和圖片可以快速生產針對特定受眾的人工內容。
專家提請注意幾種情況，在這種情況下，生成AI可能會產生假新聞為了誤導選民，惡意政治家根據PBS報告，或鼓勵暴力。
示例包括製作演講或訪談的視頻鏡頭，具有虛假信息的自動機器人，操縱候選人的錄音，供認犯罪或表達種族主義觀點，以及創建看起來像當地新聞報導的虛假圖像以傳播虛假信息。
最近的事件涉及佛羅里達州州長羅恩·德桑蒂斯（Ron DeSantis）的總統競選活動在Twitter上分享的視頻，其中包括AI生成的唐納德·特朗普（Donald Trump）的圖像，唐納德·特朗普（Donald Trump）擁抱安東尼·富奇（Anthony Fauci）博士，強調了可能的風險。
Twitter並沒有刪除視頻，而是發表了社區評論，以告知觀眾AI生成的照片的起源，即使事實檢查組和注意用戶很快就識別出Phony圖像。
解決AI的AI問題
AI生成的虛假信息是一個發展的問題，需要各種解決方法。目前正在開發有關材料來源和材料路徑的更好信息的工具。旨在幫助藝術家身份驗證照片的是由Adobe協調的內容真實性計劃。
根據Google，Meta和Microsoft的說法，他們正在積極實施當前的法規，並製定新的策略來處理AI生成的材料提出的特定問題。這些舉措包括AI的系統以識別和過濾危險信息以及事實檢查過程，每個軸。
具有諷刺意味的是，一些專業人員支持使用AI來識別使用人工智能產生的虛假信息。雖然持續的軍備競賽可能會出現，但人類內容審查員可能很難跟上AI生成的材料的氾濫。
教育公眾辨別消費者的信息至關重要。但是，它需要大量的投資和協調的努力，並且可能會遇到那些從未受過教育的人民中獲得的抵制。
