2024年擠滿的選舉年正在加劇,政治攻擊也在加劇。美國總統喬·拜登(Joe Biden)已經被偽造在與新罕布什爾州初選有關的Robocalls中。現在,深擊已經在更多的地方種族中浮出水面,受害的政客將深擊技術對民主的潛在影響與大規模殺傷性武器進行了比較。
對於在邊緣工作的公司Paravision和ID R&D,緊急威脅促使行動開發出可以匹配欺詐和注射攻擊的新工具,由AI,視頻深擊,Deepfakes,音頻欺騙和其他武器化技術。生物識別驗證,面部識別可用的對策之一,算法深度學習和運動。但是最寶貴的資源是時間:新攻擊的新聞每週都會破裂,而最大的魚類 - 美國總統大選 - 幾個月來。
在美國,警鐘在州政府和聯邦一級都在響起,促使一場爭奪法規立法。 Spectrum新聞紐約報告在一張假錄音中,前州議員基思·賴特(Keith Wright)被貶低了坐著的女議員伊內茲·狄更斯(Inez Dickens),通過稱呼她的懶惰和無能。賴特(Wright)向託管偽造內容的平台發送了一封停止的信,他將目前的Deepfake Spoofs的監管景觀與野外西部進行了比較。他說:“這只是非常非常危險的事情。” “這幾乎就像人們能夠使用的核彈。”
音頻“熱麥克風”深擊中最引人注目,最危險的
一個來自CNN的報告有令人不安的紐約故事的迴聲。這次設置是去年的芝加哥市長比賽。候選人保羅·瓦拉斯(Paul Vallas)的深擊音頻進行了巡迴演出,其中瓦拉斯(Vallas)擁護極端的親政策意見。 (“回到我時代,警察在職業生涯中會殺死17或十八個平民。而且沒有人會震驚。”)瓦拉斯失去了四分。他告訴美國有線電視新聞網(CNN):“我不會成為第一個,也不會成為最後一個騙局的受害者。”
漢尼朋友加州大學伯克利分校的數字取證專家說,這類“熱麥克風”音頻深擊可能比偽造的視頻更具吸引力。 “你看不到嘴在移動,”法里德說。 “你什麼都沒看。但是你聽到了聲音,它是內在的。聽起來好像您在竊聽它們。我認為那些真的很強大。”
ID R&D最近發布了新軟件為了響應此類發展,用於檢測語音克隆和防止深擊音頻攻擊。
法律和工具努力拆除算法時炸彈
監管機構也一直在努力跟上。PBS報告本週,聯邦通信委員會(FCC)禁止包含AI生成的聲音的機器人。根據1991年《電話消費者保護法》的技術性,來自新罕布什爾州Deepfake Joe Biden的那些機器人現在是非法的。
“壞演員在未經請求的Robocalls中使用AI生成的聲音來勒索弱勢家庭成員,模仿名人FCC主席Jessica Rosenworcel說:“和錯誤的選民。違反法律可能會導致每個電話的訴訟或最高23,000美元的罰款。
新罕布什爾州的當局有確定了源在德克薩斯州的Life Corp.及其所有者Walter Monk的電話中,該電話由Lingo Telecom發送。以前已經對這兩個實體進行了單獨的非法機器人事件的調查。同時,包括加利福尼亞州在內的各州懷俄明州是追求或已經執行法律禁止合成媒體分配的人,而無需披露並打算操縱或欺騙。在紐約,在基思·賴特(Keith Wright)的深擊之後,皇后會議員克萊德·範內爾(Clyde Vanel)推動新法律與他所謂的“身份盜用類固醇”作鬥爭。
投票權團體同樣關注,並推動更快的立法對深層訴訟。組織等組織公民和布倫南正義中心讓國會遊說鎮壓合成媒體和生物識別深層攻擊,並對使用該技術試圖欺騙選民的任何人進行更嚴厲的處罰。
由於社交媒體的轉變,選舉過程現在將被不良意願的合成人類所吸引。隨著結果的結束,幾乎沒有一定的肯定 - 除了它是一次狂野而令人迷惑的旅行。