AI客服变“叛徒”:一句话,盗走奥巴马等数千名人账号

admin 2026-06-04 04:00:21 网络安全文章 来源:ZONE.CI 全球网 0 阅读模式

文章总结: MetaAI客服存在严重安全漏洞,黑客可通过VPN伪装位置并利用提示词注入攻击,直接要求AI更改Instagram账号绑定邮箱从而盗取高价值账号。该漏洞已活跃数月导致数千账号被劫持,包括奥巴马等名人账号,灰色市场估值超百万美元。虽然Meta已于5月29日修复且启用多因素认证可防护,但暴露出AI智能体权限过高、缺乏带外验证等架构缺陷。 综合评分: 85 文章分类: AI安全,漏洞分析,威胁情报,安全运营,社会工程学


cover_image

AI客服变“叛徒”:一句话,盗走奥巴马等数千名人账号

安全内参编译 安全内参编译

安全内参

2026年6月3日 17:43 北京

在小说阅读器读本章

去阅读

关注我们

带你读懂网络安全

在Meta修复AI客服漏洞之前,已有高价Instagram用户名已遭盗取并被转售。

前情回顾·AI网络威胁态势

  • 超六成AI供应商未告知客户,偷偷将甲方数据发给未授权模型
  • 上市银行将大量客户隐私数据上传给了未授权AI
  • AI编程默认不安全:知名AI公司发生重大数据泄露
  • AI提效供应商被黑,至少十余家客户遭数据泄露及勒索攻击

安全内参6月3日消息,Meta的AI客服聊天机器人对试图窃取并转售知名Instagram账号的黑客而言,几乎“过于配合”。黑客只需要求该机器人更改账号绑定的电子邮箱地址,并使用VPN隐藏真实位置,即可实施攻击。

图:AI客户功能示例

据外媒404 Media报道,展示这一“令人震惊地简单”漏洞利用方式的视频,已在黑客及安全研究人员的Telegram群组中广泛传播。在Meta于5月29日紧急修复漏洞之前,黑客能够借此接管并倒卖在灰色市场价值数十万美元的Instagram账号。奥巴马白宫官方账号以及美国太空军首席军士长账号在短暂被攻陷期间,还发布了支持伊朗的图片和信息。

漏洞已被利用数月,

大量知名账号被劫持

攻击者只需使用VPN,使自己的位置大致与目标Instagram账号所在地区一致,然后启动密码重置流程,再要求Meta的AI客服聊天机器人更改与该账号关联的电子邮箱地址即可。这本质上是一种极其直接的提示词注入攻击。

Neowin报道称,该漏洞“已在现实环境中活跃数月,最早可追溯至今年2月,其间黑客已攻陷数千个账号”。不过,随着多个高知名度账号接连被入侵,该漏洞在最近几天似乎引发了更广泛的公众关注。包括Jane Manchun Wong在内的知名研究人员近期也表示,其账号曾遭黑客入侵。

5月31日,化名开源情报研究员ZachXBT在X平台发文称:“Meta AI客服就是垃圾,而且拥有大量访问权限,这意味着你甚至无需2FA,就能重置任何用户的密码,而且它根本不会验证你的身份。”与此同时,研究人员Dark Web Informer也在X平台披露了同一漏洞,并指出该漏洞近期已被修复。

ZachXBT和Dark Web Informer还证实,黑客曾专门针对并转售特别有价值的Instagram账号,包括短用户名@hey和@jowo。据CyberSec Guru称,这两个账号“在灰色市场的总估值超过100万美元”。安全博客指出,即使黑客仅短暂控制这些账号数天,它们依然具有极高价值,因为可被用于“获取影响力、转售或冒充品牌”。

仓促上线的AI智能体,

暴露出众多安全风险

CyberSec Guru还表示,该漏洞体现了计算机安全领域经典的“混淆代理”问题:一个拥有高权限的程序,被诱导代表权限较低的第三方滥用其权限。但在这一案例中,这个“代理”是一个大语言模型,它依赖“可通过语言引导的概率响应模型”,而非“需要通过代码绕过硬编码条件判断”的“确定性程序”。

值得注意的是,即便Meta的AI客服聊天机器人被成功利用,用户实际上仍有较为简单的防护手段。据KrebsOnSecurity报道,黑客表示,对于任何启用了多因素身份验证(MFA)的账号,他们的漏洞利用都会失效,包括Instagram提供的“最不稳健的MFA形式”——通过短信发送一次性验证码。

不过,该漏洞依然凸显出更广泛的风险:科技公司及其他组织正在仓促部署拥有高权限的AI智能体,这些AI智能体能够修改、创建甚至删除关键数据。Meta于2026年3月推出Meta AI客服助手,并承诺其能够“在任何时间为几乎所有支持问题提供可靠的7×24小时服务”。

据CyberSec Guru称,若要更安全地实现这一目标,“最低限度”的系统架构应包括:“在任何账号修改前进行带外验证;针对由AI发起的重置流程,根据账号风险信号实施速率限制;记录操作日志,并对异常的AI驱动账号修改进行异常检测;以及设置强制性的确定性安全关卡。”

参考资料:bleepingcomputer.com

推荐阅读

  • 网安智库平台长期招聘兼职研究员
  • 欢迎加入“安全内参热点讨论群”

点击下方卡片关注我们,

带你一起读懂网络安全 ↓


免责声明:

本文所载程序、技术方法仅面向合法合规的安全研究与教学场景,旨在提升网络安全防护能力,具有明确的技术研究属性。

任何单位或个人未经授权,将本文内容用于攻击、破坏等非法用途的,由此引发的全部法律责任、民事赔偿及连带责任,均由行为人独立承担,本站不承担任何连带责任。

本站内容均为技术交流与知识分享目的发布,若存在版权侵权或其他异议,请通过邮件联系处理,具体联系方式可点击页面上方的联系我

本文转载自:安全内参 安全内参编译 安全内参编译《AI客服变“叛徒”:一句话,盗走奥巴马等数千名人账号》

评论:0   参与:  0