歐洲刑事警察機構歐洲刑警組織剛發布了一份報告，專門針對語言模型的出現，例如 GPT、GPT-J 甚至 LLaMA。該機構表示，生成式人工智慧的興起可能會撼動“所有行業，包括犯罪行業”。
另請閱讀：ChatGPT 洩漏敏感用戶數據
為什麼歐洲刑警組織擔心人工智慧的崛起
對於犯罪者來說，ChatGPT 等工具可以“潛力巨大”，歐洲刑警組織關切地指出。報告也指出，犯罪分子已經開始利用人工智慧提供的可能性犯罪。
“ChatGPT 已經能夠為大量犯罪活動提供便利，[...]例如恐怖主義和對兒童的性剝削”，歐洲刑警組織詳細介紹，強調暴徒是“通常能夠快速利用新技術”。
例如，詐騙者可能依靠 ChatGPT 來寫訊息網路釣魚令人信服的或勒索訊息。歐洲刑警組織官員也擔心生成式人工智慧將被用來在社群媒體上分享假訊息和宣傳。透過 Midjourney 或 Stable Diffusion 設計的圖像以及 ChatGPT 編寫的訊息，可以操縱網路使用者並“鼓勵他們信任犯罪者”。一些犯罪者已經在使用AI 生成影片欺騙 YouTube 用戶。這些虛假序列將互聯網用戶發送到損壞的下載鏈接，其中充滿了病毒。
該機構也擔心人工智慧將被駭客利用策劃暴力攻擊或產生虛假文件，例如發票和合約。在 ChatGPT 的幫助下，一些駭客甚至開始設計惡意軟體， 喜歡勒索軟體或資料竊賊，沒有太多的技術知識。
“犯罪分子對此類人工智慧系統的潛在利用呈現出黯淡的前景”，與歐洲刑警組織一起。
資訊來源
更一般地說，犯罪分子可以依靠 ChatGPT 或其他智慧聊天機器人來了解有關如何實施某些犯罪的更多信息。為了避免偏差，OpenAI 採取了適當的過濾器和保護措施。
不幸的是，可以透過惡意軟體攻擊來規避這些限制。« 提示注入 »。 OpenAI 已知的這種類型的攻擊包括與 ChatGPT 聊天以說服其忽略其編程並改變其行為。就這樣，一些用戶推送了模型，向他們解釋如何製造炸彈或生產可卡因。這些資訊已經在網路上提供，但透過聊天機器人可以更輕鬆地存取它。
“ChatGPT 可以透過提供關鍵見解來顯著加快研究過程”，估計機構。
反擊已組織起來
在這種情況下，歐洲刑警組織鼓勵執法部門調查此問題並準備“會發生什麼事”。同時，該機構主要致力於國家警察部隊之間的資訊交流，建議“提高公眾意識”並在業界的幫助下建立安全機制。
最後，歐洲刑警組織認為警察部隊必須探索人工智慧提供的可能性。該報告討論了創建專門根據執法機構提供的數據進行訓練的語言模型。這個對話代理人將協助警方進行活動，就像 ChatGPT 協助犯罪分子完成任務一樣...
來源 ： 歐洲刑警組織
