一個新學習來自微軟和Openai的來自俄羅斯，中國，伊朗和北朝鮮的幾個黑客群體正在使用Microsoft和Openai透露，正在使用AI工具，例如Chatgpt和其他大型語言模型（LLM），以提高黑客生產力和欺詐方案，促使科技巨頭禁止其AI AI工具以將其AI工具用於所有國家貼心的黑客黑客黑客。
這項研究是據說AI公司第一次透露了使用AI的威脅參與者的網絡安全問題，發現了五名威脅參與者，其中兩個與中國有聯繫，一家與俄羅斯，伊朗和北朝鮮有聯繫。
據報導，大多數黑客小組都使用LLM或OpenAI技術來創建網絡釣魚電子郵件，自動化計算機編程和編碼技能，並理解各種主題。還發現，與中國有聯繫的一小群威脅行為者採用LLMS進行翻譯和改善目標溝通。
研究發現，與中國相關的威脅參與者木炭颱風利用人工智能（AI）來促進與目標個人或組織的溝通和翻譯，理解特定的技術，優化自動化的程序腳本技術，並簡化操作命令。
據稱，另一位與中國有聯繫的威脅性演員鮭魚颱風正在利用AI翻譯技術論文和計算術語，找到編碼錯誤，編寫有害代碼，並更好地掌握與公共領域研究相關的各種主題。
還發現，俄羅斯國家贊助的黑客集體森林暴風雪採用LLMS來了解有關複雜計算機程序的特定衛星功能和腳本方法的更多信息。據報導，該組織聲稱對俄羅斯政府必不可少的受害者，例如參與俄羅斯與烏克蘭之間的衝突的團體。
微軟聲稱，來自朝鮮的黑客小組Emerald Sleet是另一位利用OpenAI技術來分析計算機系統和工具中更好的安全漏洞或漏洞的威脅。據稱，威脅行為者還僱用AI來識別與國防相關領域或國家核武器開發方面具有專業知識的團體和人員，幫助創建網絡釣魚騙局和腳本計算機程序。
另一方面，伊朗威脅性演員深紅色Sandstorm使用人工智能（AI）來編寫干擾和逃避防病毒軟件的例程，生成網絡釣魚騙局，例如電子郵件，擦除目錄文件以及簡化一系列計算機應用程序的腳本方法。
微軟的響應
根據報告微軟網絡安全部負責人湯姆·伯特（Tom Burt）說，這些組織發現的團體正在使用OpenAI的功能來完成簡單的任務。他聲稱這些小組以與其他所有人相同的方式使用AI技術來提高輸出。
微軟已經回答說，所有高於行動者的帳戶和資產的威脅均已終止。它還宣布使用其AI功能完全禁止國家贊助的黑客群體。
根據福布斯，微軟和Openai決定通過利用各自的工具包來加強他們的方法來打擊國家贊助的黑客群體。與其他AI公司合作，投資於識別危害的技術，並對與AI相關的任何潛在安全問題更加透明。
AI協助黑客
這項新研究僅在最近發布的名為“AI對網絡威脅的近期影響據報導，英國政府通訊總部（GCHQ）警告說，AI可能很快協助黑客進行網絡攻擊。
雖然該研究主要關注使用AI磨練自己技能的缺乏經驗的黑客，但該研究正確地預測，AI將通過AI提高威脅參與者的社會工程技能。
該研究指出，生成的AI已可以用來使人與受害者的令人信服的聯繫，包括誘餌論文的創建，而無需翻譯，拼寫或語法檢查，這通常是惡意軟件的跡象。
