OpenAI 认识到网络犯罪团伙在其行动中使用 ChatGPT。自今年年初以来，已记录了 20 多起部分基于聊天机器人的网络攻击。另一方面，黑客并没有真正彻底改变这个行业……
生成式人工智能的兴起有利于网络犯罪分子。自从到来以来聊天GPT许多黑客和诈骗者已转向人工智能来促进他们的活动。虽然一些犯罪分子使用人工智能以他们可能不会说的语言编写令人信服的网络钓鱼消息，但其他恶意个人则使用语言模型来编写恶意软件。
人工智能和网络犯罪
几个月前，HP Wolf Security 研究人员发现了一次利用人工智能进行优化的网络攻击，目标是居住在法国的互联网用户。根据研究人员的调查，黑客委托人工智能编写一系列恶意脚本。
近几个月来，人工智能的繁荣让勒索软件团伙受益匪浅。借助人工智能工具丰富，旨在敲诈勒索的病毒变得越来越危险，并且越来越容易在目标系统上部署。
“超过20个欺骗性操作和网络”2024年
OpenAI 首次正式确认黑客利用 ChatGPT 策划网络攻击。这家美国初创公司在 2024 年 10 月 9 日发表的博客文章中，现估值1570亿, 表示已经识别出“超过20个欺骗性操作和网络”利用今年年初以来 ChatGPT 提供的可能性。
OpenAI 报告特别描述了 SweetSpecter 如何一伙中国间谍，在其操作中使用了 ChatGPT。该团伙的目标之一就是 OpenAI 及其员工。该组织首先向 OpenAI 员工的个人电子邮件地址发送虚假支持请求。这些虚假请求包含恶意附件，其中包含名为 SugarGh0st RAT 的病毒。一旦部署到受害者的计算机上，它就完全控制了。
中国网络犯罪分子使用 ChatGPTfor检查安全漏洞或 OpenAI 及其其他受害者计算机系统中的可利用代码。黑客主要询问人工智能的关键漏洞，同时也隔离恶意代码中的错误。
该聊天机器人也被 CyberAv3ngers 广泛使用，该组织隶属于伊朗军队的一个分支伊斯兰革命卫队。伊朗黑客使用合法的 ChatGPT 帐户。他们要求聊天机器人提供 某些工业系统中的电子设备使用的默认标识符，用于创建自定义脚本并混淆其工具的代码。此过程包括使代码变得更加复杂，从而为调查人员设置障碍。
测试过，但是没有“突破”对于海盗
OpenAI 承认，黑客“继续发展和试验我们的模型”，但初创公司没有“有证据表明，这使得他们创造全新恶意软件的能力取得了重大突破”。 OpenAI 表示，显然，ChatGPT 并未彻底改变黑客生成新恶意软件的方式。
在意识到黑客的活动后，OpenAI 显然想尽一切办法“阻止滥用我们的模型达到有害目的的企图”。使用的帐户已被禁止。 Sam Altman 的公司还表示，其“情报、调查、安保和安全团队”将继续竭尽全力“预测恶意行为者如何利用先进模型达到危险目的”。
因此，黑客采用了生成式人工智能，但他们的对手、安全研究人员也采用了生成式人工智能。几家公司已经开始使用生成式人工智能来保护互联网用户。情况是这样的迈克菲，谁开发的一项利用人工智能来保护互联网用户的技术防范网络钓鱼邮件，或比特卫士，谁开发的恶意消息和链接检测器由人工智能提供支持。
来源 ： 开放人工智能
