微軟，，，，OPIC的AAIP和其他頂部人工智慧（AI）圖像發生器仍然可以據說按照新的方式操縱與欺騙性選舉相關的圖像學習由Tech WatchDog，反對數字仇恨（CCDH）中心。
（照片：Leon Neal/Getty Images）
來自蘇黎世Eth的瑞士研究人員對AI聊天機器人帶來的潛在隱私風險發出了警報。
研究發現，CCDH研究人員總共進行了160次測試，對2024年美國總統選舉主題進行了40個文本提示，使用了四個知名的AI圖像生成器：Midjourney，Midjourney，Chatgpt Plus，Dreamstudio和Microsoft的圖像創建者。在160個測試中，有41％的人AI圖像發生器產生了構成選舉錯誤信息的照片。
測試發現AI創建了令人信服的視覺效果，以解決諸如喬·拜登（Joe Biden）躺在床上的圖像，並在醫院裡躺在床上，穿上醫院的禮服，唐納德·特朗普（Donald Trump）在拘留小區中的照片，看上去很可悲，看上去很可悲，一張垃圾中投票盒的圖片，確保可見票的人，並在閒逛的盒子中顯示了一個顆粒狀的安全攝像頭圖像，可以在床上播放一個男人的舞台，以表明彈奏舞台上的舞台上的舞台舞會。
通過迅速操縱的AI欺騙
這項研究能夠在每次測試中使用一個簡單的文本提示來與研究人員一起創建這些欺騙性圖像，以模仿犯罪行為者試圖傳播虛假信息的嘗試，然後他們試圖通過對其進行更改來“越獄”原始請求。
更改諸如表徵候選人而不是命名他們的變化，以獲取平台安全保障。如果測試運行對簡單或越獄的提示產生了看似現實的圖像，則將其標記為“安全失敗”。
研究人員發現，所有工具都沒有做出足夠的措施來強制執行當前的政策，以防止產生欺騙性信息，而Midjourney則做到了所有工具中最糟糕的工具，但在65％的測試運行中都失敗了。
此外，惡意演員已經在使用Midjourney創建可以有助於選舉虛假信息的照片，這在Midjourney的AI圖像數據庫中很明顯。
AI缺乏選舉保障執法
儘管有關於選舉欺騙的明確政策，但Midjourney，Image Creator和Chatgpt Plus仍無法停止製作以選民和選票為特色的假照片。
微軟和Openai是十多家頂級人工智能公司中的兩家承諾上個月識別和刪除有害的AI內容，例如可能影響選舉的政治候選人的深層競爭。
與許多技術法規一樣，研究中涵蓋的每個AI平台都具有某些指南，這些指南限制了使用其工具來誤導其他工具的指南，包括在某些情況下，在選舉期間禁止使用虛假信息。但是，實施這些準則有時比制定這些準則要困難。
最近發布的研究是作為偽造AI照片的指控來展示的唐納德·特朗普與非裔美國人粉絲和其他與選舉相關的圖像已經在流行的社交媒體平台上造成嚴重破壞，在被偽造之前迅速傳播。
