透過調查一個深受網路犯罪分子歡迎的地下論壇，SlashNext 的電腦安全研究人員發現了一種新的人工智慧的出現，蠕蟲GPT。該聊天機器人專門設計用於協助對話者進行惡意活動。它是由一名駭客開發的，現在駭客在黑市上出售該工具。
WormGPT，人工智慧的黑暗面
WormGPT 是 FreedomGPT 的鏡像“GPT 模型的黑色替代品”OpenAI 的框架受到一系列限制和動畫聊天GPT。聊天機器人不受道德或法律考慮的限制。簡而言之，它可以透過提供所有可以想像的細節來回答有關病毒、電腦攻擊或詐騙的問題。相反，ChatGPT 和其他人通常拒絕討論此類主題。
WormGPT 依賴GPT-J，由專門從事人工智慧研究的非營利研究小組 EleutherAI 開發的開源語言模型。網路犯罪分子利用了該模型並對其進行了訓練“惡意軟體相關數據”。由於資訊量龐大，人工智慧專門從事非法線上活動。
WormGPT 用例包括：建立網路釣魚電子郵件個人化且令人信服。 SlashNext 研究人員還有機會測試人工智慧，要求它產生一封令人信服的電子郵件，用作“商業電子郵件洩漏攻擊”，或商業電子郵件洩漏 (BEC)。此類攻擊旨在操縱員工洩漏公司敏感資料或匯款。
在這種情況下，這封電子郵件的目的是透過詢問客戶經理來誘騙他“緊急支付帳單”。為了愚弄目標，聊天機器人冒充公司執行長。研究人員對 WormGPT 想像的訊息感到震驚。幾秒鐘後，機器人生成了“這封電子郵件不僅非常有說服力，而且在戰略上也很狡猾”。
對話機器人首先脫穎而出的是“語法無可挑剔”。這也是通常可以讓您發現虛假電子郵件的線索之一。拼字錯誤、奇怪而複雜的短語和語法錯誤常常會破壞駭客設定的陷阱。人工智慧撰寫的電子郵件則不然，辨識難度大得多。事實上，對於想要部署網路釣魚攻擊的駭客來說，人工智慧是一項強大的資產，無論是針對商業世界還是普通網路使用者。
“這一經歷突顯了 WormGPT 等生成式人工智慧技術所構成的重大威脅，即使是在新手網路犯罪分子手中也是如此。”，SlashNext 在調查結束時總結道。
駭客誘騙 ChatGPT 和 Google Bard
同時，許多網路犯罪分子已經找到了一種方法陷阱人工智慧。在論壇上，駭客發布了一系列能夠繞過 ChatGPT 限制的請求，谷歌吟遊詩人和其他人。簡而言之，駭客向他們的同行解釋如何對聊天機器人進行即時注入攻擊。這種類型的攻擊可以說服人工智慧忽略其編程並超越其創建者設定的限制。
一旦攻擊實施，人工智慧就會乖乖地協助犯罪分子並回答他們的問題。例如，駭客目前正在使用 ChatGPT 來改進他們的網路釣魚訊息，即使他們不太了解受害者的語言，SlashNext 解釋道：
“攻擊者，即使是那些沒有語言能力的人，現在比以往任何時候都更有能力製作有說服力的電子郵件”。
目前正在製定促進人工智慧操縱的策略在暗網黑市分享或專門的論壇。歐洲刑事警察機構歐洲刑警組織已經強調了生成式人工智慧對於網路犯罪分子的「巨大潛力」。在三月發布的一份報告該機構估計，駭客、詐騙者和其他竊賊已經嚴重依賴聊天機器人來編寫網路釣魚電子郵件、編寫病毒或操縱網路使用者。
來源 ： 斜線下一個
