“FraudGPT”恶意聊天机器人现在在暗网上出售

这种基于订阅的、由生成式AI驱动的产品加入了一种日益增长的趋势,即“生成式AI越狱”,以创建ChatGPT的仿制工具来进行网络攻击。
恶意ai黑客攻击暗网出售

利用ChatGPT的流行,威胁行为者推出了另一款仿制的黑客工具,该工具提供与真正的基于生成式AI的应用类似的聊天机器人服务,但是专门针对促进恶意活动。

Netenrich的研究人员在7月25日发布的一篇文章中透露,他们在暗网上发现了一款名为“FraudGPT”的基于AI的黑客工具的广告,该工具以订阅方式出售,并自周六起在Telegram上流传。FraudGPT的价格从每月200美元起,最高可达每年1700美元,它旨在帮助黑客在AI的帮助下进行他们的邪恶生意。该行为者声称,到目前为止,FraudGPT已经有超过3000个确认的销售和评论。

另一款类似的、基于AI的黑客工具WormGPT自7月13日起就开始流传,并在SlashNext的一份报告中详细介绍。与ChatGPT一样,这些新兴的对抗性AI工具也是基于大数据源训练的模型,它们可以根据收到的输入生成类似人类的文本。

这些工具“似乎是威胁行为者将生成式AI特性构建到他们的工具中的最初迹象之一”,Netenrich的首席威胁猎人John Bambenek告诉Dark Reading。“在此之前,我们对威胁环境的讨论一直是理论性的。”

FraudGPT——在广告中被吹捧为“没有限制、规则和边界的机器人”——是由一个声称是各种地下暗网市场(包括Empire、WHM、Torrez、World、AlphaBay和Versus)上的验证卖家的威胁行为者出售的。

AI聊天机器人成为网络犯罪分子的新武器

WormGPT和FraudGPT都可以帮助攻击者在制定网络钓鱼活动、生成旨在迫使受害者陷入商业电子欺诈(BEC)和其他基于电子邮件的诈骗的信息时利用AI的优势,这只是开始。

FraudGPT还可以帮助威胁行为者做一系列其他的坏事,比如:编写恶意代码;创建无法检测的恶意软件;寻找非VBV的垃圾箱;创建网络钓鱼页面;构建黑客工具;寻找黑客组织、网站和市场;编写诈骗页面和信件;寻找泄露和漏洞;以及学习编码或黑客技术。

即便如此,根据Netenrich的说法,帮助攻击者创建令人信服的网络钓鱼活动仍然是像FraudGPT这样的工具的主要用途之一。Krishnan说,该工具在这方面的熟练程度甚至在暗网上出现的宣传材料中得到了吹捧,该材料展示了FraudGPT如何生成一封草稿电子邮件,“将诱使收件人点击提供的恶意链接”。

突破ChatGPT的道德防护栏

虽然ChatGPT也可以被利用作为一个黑客工具来编写社会工程学的电子邮件,但是有一些道德上的保障来限制这种用途。然而,像WormGPT和FraudGPT这样的基于AI的工具越来越普遍,表明“重新实现相同的技术而不需要这些保障并不是一件困难的事情”,Krishnan写道。

事实上,FraudGPT和WormGPT还是一个安全专家所说的“为小白准备的生成式AI越狱”的更多证据,其中不法分子正在滥用生成式AI应用来绕过OpenAI一直在积极对抗的生成式AI的道德防护栏——这场战斗大多是逆风而行。

“这是一场持续的斗争,”Hoxhunt的联合创始人兼首席技术官Pyry Avist说。“制定规则,打破规则,制定新规则,打破新规则,如此反复。”

虽然人们不能“只是告诉ChatGPT创建一封令人信服的网络钓鱼电子邮件和从你的CEO那里发送的收集凭证的模板”,但是人们“可以假装是CEO,并轻松草拟一封紧急电子邮件给财务团队,要求他们修改发票付款”,他说。

应对AI驱动的网络攻击

生成式AI工具不仅为技术专业人员提供了“更快更大规模运作”的能力,也为犯罪分子提供了同样的能力,Bambenek说。“攻击者可以迅速制定网络钓鱼活动,并同时展开更多攻击。”

网络钓鱼是网络攻击者入侵企业系统并进行更多恶意活动的主要途径之一,因此必须采取传统的安全措施来防范。这些措施仍然能够发现基于AI的网络钓鱼,并且更重要的是,能够发现威胁行为者的后续动作。

“这并没有本质上改变网络钓鱼活动的性质和背景,”Bambenek说。“只要你不是在应对来自被黑账户的网络钓鱼,声誉系统仍然能够识别出来自伪造发件人的网络钓鱼,比如,使用拼写错误的域名、免费网络邮箱账户发送的发票等。”

他说,采用深度防御策略,并利用所有可用的安全数据进行快速分析,也可以帮助组织在攻击者入侵受害者并进入攻击的下一阶段之前,发现网络钓鱼攻击。

“防御者不必检测攻击者在威胁链中做的每一步,他们只要在攻击的最后阶段——比如勒索软件或数据泄露——之前检测到一些线索,所以拥有一个强大的安全数据分析程序是非常必要的,”Bambenek说。

其他安全专业人员也倡导使用基于AI的安全工具来对抗对抗性AI,这些工具越来越多,相当于用火对火,以应对日益复杂的威胁环境。

推荐阅读:

百万Zoom账号在暗网上出售

阿联酋企业发现的Rootkit攻击增加

  • 点赞
  • 打赏
请选择打赏方式
  • ERC-20
  • TRC-20