Google宣布了新的限制，要求使用人工智能進行政治廣告，以突出披露任何數字化的圖片或聲音，以防止AI生成的虛假內容的日益增長的危險。
新的Google AI法規將於11月，即2024年美國總統大選的近一年。
根據Google對其政治內容政策的修訂，披露AI-Charts Photos必須顯而易見，突出並顯示在觀眾可能會看到它的位置，這將影響YouTube和其他服務。
根據路透社的報告，這一動作被視為現實的虛假圖片，電影和錄音變得越來越簡單地使用生成的AI技術構建，這是一個嚴肅的對誠信的威脅政治運動。
專家引起了人們的關注
在2024年大選的前提下，幾項總統競選活動，尤其是佛羅里達共和黨州長羅恩·德桑蒂斯（Ron DeSantis）的競選活動，已經使用了這項技術。例如，DeSantis競選活動使用前總統唐納德·特朗普（Donald Trump）的AI創建的視覺效果發起了攻擊廣告，該視覺效果擁抱了傳染病專家Anthony Fauci博士。
另外，聯邦選舉委員會根據哥倫比亞廣播公司的新聞，已經開始了一個程序，可以在政治廣告中調節政治廣告中的AI生成的深層蛋糕，其中包括人為的政治人物聲音，說明他們從未說過的話，根據CBS新聞。
儘管Google並未明確禁止AI在政治廣告方面，但該規則存在一些漏洞，例如合成材料與廣告中的主張無關。 AI還可用於編輯過程，包括裁剪，顏色校正，缺陷修復和背景編輯。
但是，數字信息完整性專家引起了人們對在政治運動中使用AI生成的材料日益增長並發出警告的擔憂。 AI技術可以創建令人信服的文本，圖形，音頻和視頻內容，可能會誤導或困惑選民。
2024年美國選舉有風險的誠信
以前的技術報告表明，生成AI技術的興起快速製造人造物質針對特定的受眾，例如計算機生成的語音，視頻和圖片，使2024年的選舉和運動非常高風險。據專家說，生成的AI可能會製作視頻錄像，自動化的機器人，修改後的錄音以及虛假的圖片，這些圖片似乎是當地的新聞報導，以誤導選民或誹謗領導者。
正在製定一些計劃來解決這個擴展的問題，包括創建將為材料起源和運動提供更深入的技術的創建。為了幫助攝影師對其作品進行身份驗證，已經啟動了Adobe的內容真實性計劃之類的倡議。
根據Axios的說法，Google，Meta和Microsoft正在積極實施法規，並製定了新的策略來應對AI生成的內容帶來的具體挑戰。這些努力包括用於識別和過濾有害信息和事實檢查過程。
