通过调查一个深受网络犯罪分子欢迎的地下论坛，SlashNext 的计算机安全研究人员发现了一种新的人工智能的出现，蠕虫GPT。该聊天机器人专门设计用于协助对话者进行恶意活动。它是由一名黑客开发的，现在该黑客在黑市上出售该工具。
WormGPT，人工智能的黑暗面
WormGPT 是 FreedomGPT 的镜像“GPT 模型的黑色替代品”OpenAI 的框架受到一系列限制和动画聊天GPT。聊天机器人不受道德或法律考虑的限制。简而言之，它可以通过提供所有可以想象到的细节来回答有关病毒、计算机攻击或诈骗的问题。相反，ChatGPT 和其他人通常拒绝讨论此类主题。
WormGPT 依赖于GPT-J，由专门从事人工智能研究的非盈利研究小组 EleutherAI 开发的开源语言模型。网络犯罪分子利用了该模型并对其进行了训练“恶意软件相关数据”。由于信息量巨大，人工智能专门从事非法在线活动。
WormGPT 用例包括：创建网络钓鱼电子邮件个性化且令人信服。 SlashNext 研究人员还有机会测试人工智能，要求它生成一封令人信服的电子邮件，用作“商业电子邮件泄露攻击”，或商业电子邮件泄露 (BEC)。此类攻击旨在操纵员工泄露公司敏感数据或汇款。
在这种情况下，这封电子邮件的目的是通过询问客户经理来诱骗他“紧急支付账单”。为了愚弄目标，聊天机器人冒充公司首席执行官。研究人员对 WormGPT 想象的信息感到震惊。几秒钟后，机器人生成了“这封电子邮件不仅非常有说服力，而且在战略上也很狡猾”。
对话机器人首先脱颖而出的是“语法无可挑剔”。这也是通常可以让您发现虚假电子邮件的线索之一。拼写错误、奇怪而复杂的短语和语法错误常常会破坏黑客设置的陷阱。人工智能撰写的电子邮件则不然，识别难度要大得多。事实上，对于想要部署网络钓鱼攻击的黑客来说，人工智能是一项强大的资产，无论是针对商业世界还是普通互联网用户。
“这一经历突显了 WormGPT 等生成式人工智能技术所构成的重大威胁，即使是在新手网络犯罪分子手中也是如此。”，SlashNext 在调查结束时总结道。
黑客诱骗 ChatGPT 和 Google Bard
与此同时，许多网络犯罪分子已经找到了一种方法陷阱人工智能。在论坛上，黑客发布了一系列能够绕过 ChatGPT 限制的请求，谷歌吟游诗人和其他人。简而言之，黑客向他们的同行解释如何对聊天机器人进行即时注入攻击。这种类型的攻击可以说服人工智能忽略其编程并超越其创建者设置的限制。
一旦攻击实施，人工智能就会乖乖地协助犯罪分子并回答他们的问题。例如，黑客目前正在使用 ChatGPT 来改进他们的网络钓鱼消息，即使他们不太了解受害者的语言，SlashNext 解释道：
“攻击者，即使是那些没有语言能力的人，现在比以往任何时候都更有能力制作有说服力的电子邮件”。
目前正在制定促进人工智能操纵的策略在暗网黑市上分享或者专门的论坛。欧洲刑事警察机构欧洲刑警组织已经强调了生成式人工智能对于网络犯罪分子的“巨大潜力”。在三月份发布的一份报告该机构估计，黑客、诈骗者和其他窃贼已经严重依赖聊天机器人来编写网络钓鱼电子邮件、编写病毒或操纵互联网用户。
来源 ： 斜线下一个
