網絡安全專家在即將舉行的2024年美國總統選舉中對可能濫用人工智能（AI）的可能性越來越擔心，儘管該技術有可能製定量身定制的競選策略和製定政策。
卡塔斯主義技術招聘總監理查德·希頓（Richard Heaton）認識到AI的雙重性質，強調相同的技術增強選舉安全是一款“雙刃劍”“被利用被操縱如美國太陽報所報導，數據並干擾選舉過程。
AI在數據分析和模式識別方面的能力引起了對惡意參與者使用該技術進行投票和傳播錯誤信息的恐懼。希頓指出，對選民數據的不道德使用可能導致有針對性的虛假信息運動，而有偏見的AI算法可能會在社交媒體平台上放大特定的觀點或虛假新聞，從而可能震撼公眾輿論。
美國選舉的誠信受到威脅
網絡安全專家特別強調了Deepfakes的危險，AI生成的合成媒體在2024年美國總統大選中濫用了人的音頻，照片或視頻中的相似之處。 Michael＆Associates運營副總裁Ben Michael引用的一個例子涉及AI Deepfake在一個機器人賽中冒充總統Joe Biden的示例，阻止選民參加新罕布什爾州的民主黨初選。這一事件強調了Deepfakes對AI技術的發展所構成的重大威脅，在政治格局中既有機會和風險。
TechTimes最近報導Deepfake Biden Robocall和Elevenlabs是矽谷領先的語音宣傳初創公司之間的可能聯繫。綜合音頻安全公司Pindrop將Elevenlabs確定為Deepfake Biden Robocall的可能來源，並從UC Berkeley信息學院進行了獨立的分析，支持了對歸因的高度信心。
專家指出，能夠在幾秒鐘內產生令人信服的深擊的高級AI工具的可訪問性引入了2024年美國總統大選的新威脅。他們補充說，在沒有適當標籤的情況下流通的欺騙性內容的風險較高，在選舉前的日子裡有可能欺騙選民。場景包括將政治候選人描繪成在衛生緊急情況下錯誤或從未發表的陳述。
美國有迫在眉睫的虛假信息危機嗎？
為了應對這些對AI濫用和深層訴訟的擔憂，美國幾個州的立法者，包括夏威夷，南達科他州，馬薩諸塞州，俄克拉荷馬州，內布拉斯加州，內布拉斯加州，印第安納州和懷俄明州，正在介紹立法，以禁止在特定時期內披露AI生成的媒體，而不是在特定時期內進行適當的披露。
在內布拉斯加州，民主黨人提議擴大該禁令，以在選舉後60天內覆蓋所有深層。亞利桑那共和黨人建議一項法案，允許在“數字模仿”中描繪的個人起訴救濟或損害，根據NBC新聞。儘管尚未進步，但在愛達荷州，肯塔基州，弗吉尼亞州，俄亥俄州，南卡羅來納州和新罕布什爾州也看到了類似的立法努力。但是，提出這些法案並不能保證其最終頒布的法律。
但是，人權倡導非政府組織Free Press透露，X，Meta和YouTube廢除了17條仇恨和虛假信息規則。根據PBS的說法，YouTube在去年6月說不再阻止視頻錯誤地指控2020年或之前的美國選舉有嚴重的欺詐，缺陷或問題。這項政策變更促進了關於不受歡迎或未經證實的政治思想的免費討論。
根據華盛頓大學誤解專家凱特·星鳥（Kate Starbird）的說法，這三位社交媒體巨頭還削減了工人，包括內容主持人，這引起了人們對2024年可能發生的虛假信息危機的擔憂。
