数千个OpenAI的数据被盗并在暗网上出售

数千个OpenAI的数据被盗并在暗网上出售

威胁行为者对生成式人工智能工具的兴趣日益增加,在暗网上出售了数以十万计的OpenAI的凭证,并且可以使用一个恶意的ChatGPT的替代品。

无论是技术欠佳的还是经验丰富的网络犯罪者,都可以利用这些工具来创建更具说服力的网络钓鱼邮件,根据目标受众的特点进行定制,从而提高攻击成功的可能性。

黑客利用GPT人工智能

根据Flare这家威胁暴露管理公司与BleepingComputer分享的数据,六个月内,暗网和Telegram上的用户提到了ChatGPT,OpenAI的人工智能聊天机器人,超过了27,000次。

Flare的研究人员在分析暗网上的论坛和市场时,注意到OpenAI的凭证是最新的热门商品之一。

研究人员发现,在暗网上以窃取日志的形式出售了超过200,000个OpenAI的凭证。

与一月份估计的1亿活跃用户相比,这个数字似乎微不足道,但它确实表明,威胁行为者在生成式人工智能工具中看到了一些恶意活动的潜力。

网络安全公司Group-IB在六月份的一份报告中称,暗网上的非法市场交易了包含超过100,000个ChatGPT账户的信息窃取恶意软件的日志。

网络犯罪者对这些工具的兴趣已经被激发到了一个程度,以至于其中一个开发了一个名为WormGPT的ChatGPT克隆,并且用以恶意软件为重点的数据来训练它。

这个工具被宣传为“黑帽最好的GPT替代品”,以及“让你做各种非法事情”的ChatGPT替代品。

数千个OpenAI的数据被盗并在暗网上出售

WormGPT依赖于2021年开发的GPT-J开源大型语言模型,来生成类似人类的文本。它的开发者说,他们用多样化的数据集来训练这个工具,重点是与恶意软件相关的数据,但没有透露具体的数据集的信息。

WormGPT显示出了进行BEC攻击的潜力

电子邮件安全提供商SlashNext成功地获取了WormGPT的访问权限,并进行了一些测试,以确定它所带来的潜在危险。

研究人员的重点是创建适合商业电子邮件妥协(BEC)攻击的信息。

“在一个实验中,我们指示WormGPT生成一封电子邮件,目的是向一个毫无戒心的账户经理施加压力,让他支付一张虚假的发票,”研究人员解释道。

“结果令人不安。WormGPT生成的电子邮件不仅非常有说服力,而且具有战略性的狡猾,展示了它在进行复杂的网络钓鱼和BEC攻击方面的潜力,”他们得出结论。

数千个OpenAI的数据被盗并在暗网上出售
WormGPT generates persuasive message for BEC attack
source: SlashNext

SlashNext的研究人员分析了结果,发现生成式人工智能可以为BEC攻击带来的优势:除了“无可挑剔的语法”给信息增加了合法性之外,它还可以让技术欠佳的攻击者进行超出他们水平的攻击。

虽然防御这种新兴的威胁可能很困难,但是公司可以通过培训员工如何验证声称紧急的信息,特别是当涉及到财务方面时,来做好准备。

改进电子邮件验证流程也应该能够带来回报,比如通过对组织外部的信息发出警报,或者标记与BEC攻击通常相关的关键词。

推荐阅读:

SSNDOB网络犯罪市场管理员认罪后面临15年监禁

暗网电影:探索网络黑市的恐怖之旅

  • 点赞
  • 打赏
请选择打赏方式
  • ERC-20
  • TRC-20