网络犯罪分子已大规模采用生成式人工智能。据欧洲刑警组织称，黑客使用基于人工智能的工具自去年年初以来为他们的活动提供便利。美国致力于应对网络攻击的组织微软威胁情报部门的研究人员也同意这一点。
在与 OpenAI 签署的一份报告中，微软研究人员透露，许多政府资助的黑客正在利用聊天机器人识别系统中的缺陷，阻止防病毒防御机制并策划网络钓鱼攻击，或法语中的网络钓鱼。对于这些黑客来说，ChatGPT 是一个“另一个生产力工具”这可以让你改进和改进你的攻击。
借助语言模型，黑客可以收集有关受害者的信息，获得编写恶意软件的帮助并避免语言障碍。许多攻击依赖于用外语与受害者进行交流。感谢 ChatGPT 和其他工具，黑客可以编写令人信服的消息，而不会因为糟糕的语法或拼写而出卖。
哪些黑客团伙在攻击中利用 ChatGPT？
该报告详细介绍了哪些团伙正在使用 OpenAI 的生成式人工智能来完善他们的策略。微软首先提到了森林暴雪，这是一个俄罗斯黑客团伙，更广为人知的名字是
花式熊。黑客专门从事间谍活动，受克里姆林宫授权。他们因在 2016 年总统选举期间对美国民主党全国委员会 (DNC) 进行黑客攻击而闻名。
“森林暴雪行动对俄罗斯在乌克兰和更广泛的国际社会的外交政策和军事目标发挥着重要的支持作用”，微软说。
俄罗斯网络犯罪分子显然使用人工智能进行研究“各种卫星和雷达技术”。通过与聊天机器人交谈，间谍们正在寻找“了解卫星通信协议、雷达成像技术和具体技术参数”。这项研究可能与乌克兰战争，微软说。他们还向 ChatGPT 寻求帮助来编写脚本并自动执行某些操作。
朝鲜 Emerald Sleet 黑客也被发现使用 ChatGPT。黑客由政府直接资助金正恩首次使用人工智能“更好地了解公开报告的漏洞”，大概是为了在攻击中利用它们。他们还利用语言模型编写网络钓鱼消息。黑客主要关注鱼叉式网络钓鱼，这是一种高级形式的网络钓鱼，专门针对采用社会工程技术的个人或组织。
同样的故事也发生在 Crimson Sandstorm 的伊朗黑客身上，他们利用 ChatGPT“生成各种钓鱼邮件”旨在应伊朗的要求陷害女权主义者。最后，来自木炭台风和鲑鱼台风组织的中国黑客也想利用生成式人工智能的崛起。例如，海盗们收受北京的报酬，依靠对话机器人来“了解特定技术、平台和漏洞”,“生成和完善脚本”，或获取翻译。
毫不奇怪，OpenAI 已采取措施防止网络犯罪分子与 ChatGPT 聊天。该初创公司指出，黑客团伙使用的 ChatGPT 帐户已被停用。微软还补充说，已采取措施“破坏相关资产”给黑客。
来源 ： 微软
