根據最近的學習來自人工智慧民主項目，AI聊天機器人如擬人化的Claude，Google的Gemini，OpenAI的GPT-4，Meta的Llama 2和Mismtral的混音都被證明可以提供不准確的選舉信息，當被問及加利福尼亞州的選民是否可以通過短信進行投票或在投票期間允許與競選活動相關的服裝。
最近發布的數據與CBS發現，隨著美國總統初選在全國范圍內開始，越來越多的人依靠聊天機器人獲取信息，例如Google的雙子座和Openai的GPT-4。
據報導，專家擔心，引入強大的新AI技術可能會導致選民收到虛假或誤導性信息，甚至不鼓勵他們投票。
（照片：Olivier Morin/AFP通過Getty Images）
此插圖圖顯示了2023年6月6日在VAASA的其他AI應用程序包圍的AI（人工智能）智能手機應用程序Chatgpt。
這人工智能模型據稱產生了各種不准確的響應。這些示例包括Meta的Llama 2發表的虛假陳述，該聲明聲稱加利福尼亞州的選民可以通過短信和凡人的克勞德（Claude）給出的誤導回應進行選票，他們聲稱佐治亞州的2020年2020年選民欺詐指控是“複雜的政治問題”，而不是指出多個官方評論驗證了喬伊·比德森（Joe Bidene）的勝利。
據報導，OpenAI的GPT-4錯誤地指出，當AI民主計劃在2024年1月25日對AI最高的AI模型測試時，允許在德克薩斯州進行投票。
幻覺AI
該實例最終將作為研究發現的主要例證：它評估的前五個AI文本模型都無法正確地說，在德克薩斯州的投票場所不允許競選服裝。這是因為禁止佩戴徽章，徽章，標誌或其他與政黨，候選人或主張相關的可比較的交流設備，以投票。
在研究中使用了上述問題以及25個檢查最佳AI模型對選民查詢的反應方式的25個問題來評估AI聊天機器人。一組由40多個州和地方選舉當局以及來自學術界，工業，民間社會和新聞業的AI專家進行了測試。
專家測試人員都根據每個提示的兩個開放和三個封閉的AI模型的偏見，正確性，完整性和有害性得分。該組對130個AI模型響應進行了分級。
GPT-4與其他AI模型相比
總體而言，研究發現，在準確性方面，GPT-4的表現優於其他模型。 Claude的擬人化模型在50％的時間左右被證明是錯誤的。
此外，在超過60％的病例中，Google的雙子座，Meta的Llama 2和Mismtral的混音模型的結果都被錯誤地評為錯誤，表明性能差。雙子座，美洲駝2和混音的不准確等級的不同之處在於很小。
在準確性方面，AI模型的總體表現不佳，大多數測試人員將其總反應的大約一半評為不正確。專業評估者評估了三分之一的回應是有害或不完整的。只有一小部分評論被認為是偏見的。
