生成式AI会终结尼日利亚王子骗局吗?

一位语言学家分析GPT是否会改善那些臭名昭著的不合语法的骗局,或者最终让它们成为过去的事。
生成式AI会终结尼日利亚王子骗局吗?

大约二十年前,38岁的哈佛教授许卫东在马萨诸塞州的罗克斯伯里区法院受审。他穿着皮夹克,戴着大型的薄框飞行员眼镜,坐在一块有机玻璃隔板后面,面对着60万美元的现金保释金。

许卫东向他的35位朋友、学生和同事承诺,他正在为非典研究筹集资金。其中一位甚至抵押了自己的房子来帮忙。但最后,许卫东把所有的钱都寄给了尼日利亚电子邮件骗子。

这位哈佛教授从未收到他所期待的5000万美元回报。多年来,他的故事成为了一个寓言,告诫那些认为自己太聪明而不会上当受骗的人。

单凭智力是不够的,而且在过去的20年里,我们尝试过的一切方法——无论是垃圾邮件过滤器、网络钓鱼防范活动,还是随着我们在互联网上花费更多的时间和经验而获得的成熟度——都没有能够阻止人们上当受骗这个最古老的把戏。

根据ADT的数据,仅在2019年,美国人就因为尼日利亚王子骗局(以下简称“预付费诈骗”)损失了超过70万美元。而企业也不例外。Abnormal Security本月早些时候报告称,他们追踪到了超过1000起针对组织的预付费攻击,来自大约70个不同的电子邮件域名。

随着生成式人工智能(AI)的发展,网络犯罪的风险也在增加。不法分子可以利用这种技术来创造更具诱惑力、更符合语法规范、更难以辨别的虚假内容。

但也有可能这种技术并不能给他们带来多大的优势。也许生成式AI的优点恰恰是它的弱点,也许它会让那些要求事先付款的骗局失去市场。

预付费诈骗是如何运作的?

我们不用费多大劲,就能在自己的收件箱里找到一封先付费邮件的例子。

“今天早上我就收到了一封,”蒙大拿州比灵斯州立大学英语荣誉教授黛博拉·沙弗说,“这真是个巧合(在这次采访之前)。”

2012年,沙弗发表了一项关于先付费邮件语言特征的研究,而在过去的十年里,这些邮件没有丝毫改变。它们的套路众所周知:某个地方有一大笔钱,只要收到邮件的幸运儿付一小笔钱,就能帮助发信人拿到这笔钱,并且分一杯羹。

“邮件的内容通常是简单地介绍发信人的情况,让它听起来可能很重要,”沙弗解释说。

她接着说:“这些邮件都有一种紧迫感——‘请马上回复’,什么的。政府要员、隐秘银行账号——‘我们需要你协助,把这些钱运出去或投资到你的国家。’他们总会为打搅了读者而道歉,但他们有一些难得的机会,不能放过。称谓总是客气的,有时故意迎合某些喜好,比如宗教喜好。”

这种基本的套路在互联网之前就已经有了。

“人们很容易想,‘我不用非答应不可。我只是多问一些信息而已。’但是一旦他们这么做了,他们就给自己带来了麻烦,让各种说服手段对很多人有效果,除非他们一直保持警觉,”沙弗说道。

她补充说:“但是,很多这样的信件——我在想AI会不会改变这一点——一看就能看出它们不是由英语母语者写的。”

如何利用生成式人工智能提升先付费诈骗的效果

和许多人一样,沙弗认为ChatGPT是历史上的一个转折点。

“我相信生成式AI会影响一切——每一种沟通方式,每一种人们看待世界和相互交流的方式,”这位终身英语学者预测道。

尽管生成式AI有很多积极的用途,但AI聊天机器人已经让网络犯罪分子能够更快地编写更有说服力的网络钓鱼内容。像“丽塔·多米尼克夫人”这样的人将会从中受益。

“我收到过一些来自声称在英国或澳大利亚的人的电子邮件,很明显他们不是英语母语者。这些就足以引起读者的警觉,让他们停下来说,‘等等,这是真的吗?’”沙弗解释道。

不过,很快,这个红旗就会被隐藏起来。

“我怀疑AI会把所有东西都弄得干干净净,”她说。“你会看到用流利的英语写成的东西,而且风格和你自己的方言相匹配。”

虽然这听起来很有可能,但并不一定意味着更好的写作就真的会对预付费诈骗有所帮助。

生成式人工智能真的能帮助诈骗者吗?

沙弗发表论文两个月后,另外一篇论文给出了先付费语言学不同的看法。在《尼日利亚骗子为什么说自己来自尼日利亚?》一文中,一名微软研究员提出,骗局之所以明目张胆,就是为了达到目的。

“一封写满了大笔钱财和西非贪污的邮件,除了最轻信的人之外,都会觉得很荒唐,”研究员写道。但他认为,这是故意这样做的。

“因为这种攻击受害者很少,尼日利亚骗子急需减少误中率。通过发一封只能吸引最轻信的人的邮件,骗子让最有可能上钩的目标自己挑出来,并让真假比例对他有利。”

按这个逻辑来看,先付费邮件内容里任何出错、漏掉或其他红旗,可能只是帮骗子筛选目标,让他们工作更高效。所以,AI带来的更流畅的文字和更精彩的故事可能反而没什么好处。

沙弗自己对这个说法并不完全信服。

“这个理论很有道理,”她说。“我有点认同,但同时,我也觉得很多骗子是在竭尽全力,他们只是不太会用语言玩弄和精通英语。”

不管最后生成型AI是彻底改变还是完全绕过先付费骗局,我们都得用同样的方法对付它。“人们需要多了解他们会碰到的各种骗局,以及怎么检验它们,”沙弗强调。

她总结道:“如果有一个时期,全世界的教育更加重要,我不知道那是什么时候。现在我们都需要学习如何保护自己。”

推荐阅读:

CapraRAT冒充YouTube劫持Android设备

黑灰产资产信息搜集

  • 点赞
  • 打赏
请选择打赏方式
  • ERC-20
  • TRC-20