暗网训练的AI黑客工具‘DarkBERT GPT’

基于谷歌Bard的DarkBART和DarkBERT网络犯罪聊天机器人,代表了对抗性人工智能的一个重大飞跃,包括谷歌镜头集成用于图像和对整个网络地下知识库的即时访问。
暗网黑客ai工具DarkBERT GPT
恶意AI的威胁

恶意AI的威胁

一种名为FraudGPT的恶意聊天机器人的开发者正在准备更多基于生成式AI和谷歌的Bard技术的先进的对抗性工具,其中一个将利用一个大型语言模型(LLM),它使用暗网的全部内容作为它的知识库。

一位已经发现了另一种基于AI的黑客工具WormGPT的道德黑客向研究人员透露,FraudGPT的发明者——在黑客论坛上以“CanadianKingpin12”为名——正在制作更多的基于AI的恶意聊天机器人,根据SlashNext公司的消息。

即将推出的机器人——被称为DarkBART和DarkBERT——将为威胁行为者提供类似于ChatGPT的AI能力,这些能力远远超过了现有的网络犯罪生成式AI提供的能力,SlashNext公司在8月1日发布的一篇博客文章中警告说。这些AI有可能降低潜在网络犯罪者开展复杂的商业电子邮件欺诈(BEC)网络钓鱼活动、发现和利用零日漏洞、探测关键基础设施的弱点、创建和分发恶意软件等等的门槛。

“从WormGPT到FraudGPT再到‘DarkBERT’,在不到一个月的时间内就取得了快速进展,这凸显了恶意AI对网络安全和网络犯罪格局的重大影响,”SlashNext公司的研究员Daniel Kelley在文章中写道。

DarkBART和DarkBERT:一代新的AI

一位名为CanadianKingpin12的黑客开发者正在制作两种基于生成式AI和谷歌的Bard技术的恶意聊天机器人,它们分别被称为DarkBART和DarkBERT,它们可以利用暗网的内容进行各种网络攻击或欺诈。

DarkBART将是谷歌BART AI的黑暗版本,这位黑客说它将基于一种由韩国数据智能公司S2W创建的大型语言模型(LLM),这种模型叫做DarkBERT,它的目标是实际上是打击网络犯罪。目前,这种模型只限于学术研究者使用,所以如果有人恶意地获取了它,那就很值得注意。

“这位威胁行为者……声称他已经获得了DarkBERT的访问权限,”Kelley说,并补充说,当他通过Telegram联系到CanadianKingpin12时,他分享了一个视频,证明他的DarkBERT版本“在暗网的大量文本上进行了专门的训练”,Kelley写道。

这位恶意开发者还声称他的新机器人……可以与谷歌镜头集成,“Kelley补充说。“这种集成使得能够发送带有图片的文本。”这一点很值得注意,因为到目前为止,类似于ChatGPT的产品都只有文本功能。

另一个对抗性工具,也叫做DarkBERT(但与韩国AI完全不同),将更进一步地使用整个暗网作为它的LLM,让威胁行为者能够利用黑客地下世界的集体智慧来进行网络威胁。它也将有谷歌镜头的集成功能,CanadianKingpin12声称。

暗网生成式AI的快速发展

Kelley指出,像他们的善良的对手一样,对抗性AI工具的开发者很可能也会很快提供应用程序编程接口(API)来访问聊天机器人,这将使得它们更容易地集成到网络犯罪者的工作流程和代码中,降低了进入网络犯罪游戏的门槛。

“这样的进展引发了对潜在后果的重大担忧,因为这种类型的技术的用例可能会变得越来越复杂,”Kelley写道。

这种快速的进展也意味着防御这些威胁需要一个主动的方法。除了为企业员工提供识别网络钓鱼攻击的典型培训外,组织还应该提供针对BEC的特定培训,以教育员工这些攻击的性质和AI的作用,研究人员说。此外,企业还应该加强电子邮件验证措施,以对抗AI驱动的威胁,增加严格的流程和关键字标记,以补充已经到位的措施。

“随着网络威胁的演变,网络安全策略必须不断地适应新出现的威胁,”Kelley写道。“一个主动和有教育意识的方法将是我们对抗AI驱动的网络犯罪最有效的武器。”

推荐阅读:

被盗凭证和初始访问的出售在暗网市场上占据主导地位

百万Zoom账号在暗网上出售

  • 点赞
  • 打赏
请选择打赏方式
  • ERC-20
  • TRC-20