欧洲刑事警察机构欧洲刑警组织刚刚发布了一份报告，专门针对语言模型的出现，例如 GPT、GPT-J 甚至 LLaMA。该机构表示，生成式人工智能的兴起可能会撼动“所有行业，包括犯罪行业”。
另请阅读：ChatGPT 泄露敏感用户数据
为什么欧洲刑警组织担心人工智能的崛起
对于犯罪分子来说，ChatGPT 等工具可以“潜力巨大”，欧洲刑警组织关切地指出。报告还指出，犯罪分子已经开始利用人工智能提供的可能性犯罪。
“ChatGPT 已经能够为大量犯罪活动提供便利，[...]例如恐怖主义和对儿童的性剥削”，欧洲刑警组织详细介绍，强调暴徒是“通常能够快速利用新技术”。
例如，诈骗者可能依靠 ChatGPT 来写消息网络钓鱼令人信服的或勒索信息。欧洲刑警组织官员还担心生成式人工智能将被用来在社交媒体上分享虚假信息和宣传。通过 Midjourney 或 Stable Diffusion 设计的图像以及 ChatGPT 编写的消息，可以操纵互联网用户并“鼓励他们信任犯罪分子”。一些犯罪分子已经在使用AI 生成视频来欺骗 YouTube 用户。这些虚假序列将互联网用户发送到损坏的下载链接，其中充满了病毒。
该机构还担心人工智能将被黑客利用策划暴力攻击或生成虚假文件，例如发票和合同。在 ChatGPT 的帮助下，一些黑客甚至开始设计恶意软件， 喜欢勒索软件或数据窃贼，没有太多的技术知识。
“犯罪分子对此类人工智能系统的潜在利用呈现出黯淡的前景”，与欧洲刑警组织一起。
信息来源
更一般地说，犯罪分子可以依靠 ChatGPT 或其他智能聊天机器人来了解有关如何实施某些犯罪的更多信息。为了避免偏差，OpenAI 采取了适当的过滤器和保护措施。
不幸的是，可以通过恶意软件攻击来规避这些限制。« 提示注入 »。 OpenAI 已知的这种类型的攻击包括与 ChatGPT 聊天以说服其忽略其编程并改变其行为。就这样，一些用户推送了模型，向他们解释如何制造炸弹或生产可卡因。这些信息已经在网络上提供，但通过聊天机器人可以更轻松地访问它。
“ChatGPT 可以通过提供关键见解来显着加快研究过程”，估计机构。
反击已组织起来
在这种情况下，欧洲刑警组织鼓励执法部门调查这一问题并准备“会发生什么”。与此同时，该机构主要致力于国家警察部队之间的信息交流，建议“提高公众意识”并在业界的帮助下建立安全机制。
最后，欧洲刑警组织认为警察部队必须探索人工智能提供的可能性。该报告讨论了创建专门根据执法机构提供的数据进行训练的语言模型。这个对话代理将协助警方开展活动，就像 ChatGPT 协助犯罪分子完成任务一样......
来源 ： 欧洲刑警组织
