Instagram标记AI生成的内容

在美国关于AI安全和非人类来源内容的全国性讨论中,一位应用研究人员发现了社交媒体应用对其20多亿用户标记AI帖子的努力。

Instagram似乎正在实施一个功能,它会给由ChatGPT和其他人工智能创建的社交媒体帖子标注“AI生成的内容”。网络安全专家说,这是一个重要的步骤,可以让网络更安全。

这个功能最近被应用研究人员Alessandro Paluzzi发现,它紧随着Instagram的母公司Meta和其他六家大型科技公司在白宫会面,宣布了一些自愿承诺来保障AI的安全。这些承诺包括实施一个水印来标注来自“合成”用户的内容。

Veridas的首席执行官Eduardo Azanza通过电子邮件说:“我们已经看到了在线流传的深度伪造图像和视频滥用的急剧增加。随着人工智能的进步,区分真实和人工生成的媒体将变得越来越困难。如果没有某种标注,公众只能依靠他们自己的直觉。”

深度伪造和AI创作的媒体已经成为了美国国内讨论的话题,这要归功于好莱坞SAG-AFTRA编剧罢工、拜登政府制定统一的国家政策来保障AI开发和使用的持续努力、以及AI在网络和现实世界犯罪中日益增长的存在。作为对网络犯罪前线情况有多么令人担忧的证明,联邦调查局最近发布了一个警报,关于一个使用假社交媒体帖子来欺骗儿童和成年人的色情敲诈团伙。另一个例子是,今年早些时候,一个网络犯罪分子试图从一位亚利桑那州女子那里勒索100万美元,他声称他绑架了她的女儿,并使用了一个深度伪造的声音来恳求帮助。与此同时,网络安全工具对AI生成内容的检测成功率目前还相当高,但是研究人员警告说,网络犯罪分子在逃避这些保护方面越来越有技巧。目前,帮助普通人区分什么是来自聊天机器人的,什么不是,什么是真实的,什么不是,是减轻AI各种威胁的关键第一步,研究人员说。

Azanza说:“我们认为这种走向一个更透明的媒体环境的举动非常积极。如果我们想要成功地将AI融入我们的日常生活中,那么对于大型、有影响力的公司来说,在遵守强制执行问责和责任的标准和法规方面领先一步是很重要的。”

Meta和Instagram没有立即回复Dark Reading对评论的请求。

推荐阅读:

苹果修补了3个可能已经被利用的0day漏洞

封包技术:网络游戏外挂的利器

  • 点赞
  • 打赏
请选择打赏方式
  • ERC-20
  • TRC-20