AI安全再思:MuseAI智能体的能力与漏洞

admin 2026-11-16 20:40:30 网络安全文章 来源:ZONE.CI 全球网 0 阅读模式

AI 安全再思:Muse AI 智能体的能力与漏洞

原创

Editorial Team
Editorial Team

网络与信息安全参考

2026年11月13日 08:00
山东

去阅读

KASPERSKY BLOG · AI SECURITY

AI 安全再思:Muse AI 智能体的能力与漏洞

原文:More musings on AI security: capabilities and vulnerabilities of the Muse AI agent

QUOTE

一个能读你的消息、替你打电话、动你钱包的智能体,能力越像管家, 漏洞就越像一扇没上锁的后门 。

—— 卡巴斯基官方博客编辑部

— Meta 的 Muse 智能体:能力边界越宽,可被利用的攻击面也越大。(题图:Kaspersky)

刚刚结束高调发布,Muse AI 智能体就卷入了数起丑闻之中。我们来看看究竟发生了什么,以及如果你要使用它,该如何降低风险。

《奥德赛》若是讲 Muse 的故事,开篇或许就会是这样。Muse 是 Meta 新推出的 AI 智能体。目前,这款智能体仅以 iOS、Android、macOS 应用和网页版的形式提供。即便如此,它已经流行起来:根据 Meta 官方数据,截至 10 月 21 日,Muse 的下载量已超过 1000 万次 。

这款智能体能做的事很多:读取你的对话和日历、提醒你会议与任务、回复消息和邮件、追踪你的开销、替你完成购买、搜索网页、生成内容,以及更多更多。简而言之,对于常年忙碌的人来说,它就是 一套完整的私人管家服务 。Muse 的创造者承认,他们在很大程度上借鉴了曾轰动一时的 AI 智能体 OpenClaw——而研究者恰好发现,OpenClaw 满是严重的安全漏洞 。

但发布后不久,关于 Muse 的坏消息便开始接连堆积。首先,一名记者发现,这款智能体在未获明确许可的情况下读取了他的对话。几乎在同一时间,一名研究者发现了一个漏洞,攻击者可以借此控制 Muse,并以机主的名义行事。随后人们又发现,那些号称由 AI 拨出的电话,实际上被转交给了……人工坐席。

本文将梳理这一切究竟是如何发生的,以及 如何尽可能安全地使用 Muse 。

本文看点

01

没有授权,它照样读到了消息

02

一个设置,就能被远程接管

03

逐项关掉该关的开关

01

OVERREACH

当智能体读到了不该读的东西

记者 Jason Aten 把 Muse 装在了自己的 iPhone 和 Mac 上,并 特意没有给这款智能体访问「信息」应用的权限 。然而,在他与同事通过消息聊到新款 iPhone 之后,Muse 却出人意料地主动提出,可以就这个话题起草一篇专栏——还引用了他编辑关于截稿日期的那条消息。Aten 立刻追问智能体,它是怎么拿到这些信息的。

Muse 的解释是,Mac 版应用只是把通知弹窗中的文字传给了它——乍看之下,这个说法相当可信。但随后 Aten 发现,Muse 一直在 直接从 Mac 本地的信息数据库中同步数据 ,同步已经进行到该数据库的第 187 462 行。单凭这个数字并不能说明究竟处理了多少条消息,但这显然远远不止几条通知。

据一名 Meta 员工的说法,只有当用户分别授予了「信息」访问权限、并给这款应用「完全磁盘访问权限」时,Muse 才能读取对话。至于智能体究竟是如何 在未获明确许可的情况下读到对话 的,目前仍不清楚。最可能的原因,是一个不够透明的权限界面。

02

ZERO-DAY

Muse 中的零日漏洞

就在「偷看消息」的丑闻曝出的同时,研究者 Patrick Wardle 发现 Muse 存在一个严重漏洞, 问题出在该应用存储和使用内部设置的方式上 。

Muse 会把其中若干项设置保存在本地,而其中一些几乎可以在毫无限制的情况下被修改。这些设置中的一项,决定了语音识别时你的语音输入会被发送到哪台服务器。通常情况下,这些请求会发往 Meta 的服务器,但 Wardle 发现, 几乎任何本地应用或终端命令都能改掉这个地址 。

在实际攻击中,攻击者可以通过两种方式之一做到这一点:用恶意软件感染受害者的设备;或者以「实用操作指引」为名, 诱使受害者把一条精心构造的命令粘贴进终端 。这类危险指引常常通过虚假网站或遭感染的浏览器扩展传播——它们会篡改用户所看到的网页内容。

一旦设置中的 Meta 服务器被换成攻击者的服务器,Muse 的语音请求就会转而发往那里。与这些请求一同到达的,还有一枚 授权令牌,攻击者凭它可以冒充账号所有者 、远程控制这款智能体。如果用户此前已经授予 Muse 访问摄像头、消息、文件及其他数据的权限,攻击者就能把这一切都用于自己的目的:用摄像头拍照、向磁盘写入恶意文件、读取对话、定位已关联的设备,以及更多更多。

— 一旦控制了 Muse,攻击者就能使用与智能体本身相同的功能:用前置摄像头拍照、查看照片、读取文件并修改或删除它们、弹出通知……研究者总共统计出 50 多条此类命令。(图源:Patrick Wardle 发布的截图)

更进一步,攻击者还可以让 Muse 的语音流量经由自己的服务器中转,并在受害者的语音指令中 悄悄夹带自己的指令 。他们会在中转途中截获 Muse 令牌,因此首次攻击得手之后,就能持续保留对这款智能体的访问权,继续远程控制它。Meta 已经发布了修复该漏洞的更新,但这类故事在 AI 世界里 远算不上罕见 。

03

HUMAN BACKUP

「血肉之躯」前来救场

Muse 有一项实验性功能,可以代表用户给美国的商家打电话:智能体能够自己拨通一家公司,询问它需要的信息,然后展示通话记录。但据路透社和 404 Media 了解,Meta 还在自家员工身上测试过这项功能的一个古怪附加项: 把电话转交给受过训练的呼叫中心坐席 。全自动通话并不能把事情办成:电话另一端的人一听到机器语音,往往就直接挂断。与此同时,许多 Meta 员工并不知道自己的请求被转交给了真人。

在一连串批评之后,Meta 关停了这项人工坐席实验。公司代表表示,在没有告知的情况下开展该实验是一个错误,并承诺改进这项功能。

04

PRIVACY SETTINGS

保护隐私:该检查哪些 Muse 设置

当人们使用 Muse 时,Meta 确实会处理 大量数据 :与聊天机器人的对话、照片、元数据、上传和生成的文件……其中也包括你已连接到该智能体的任何第三方应用中的信息。Meta 员工可以在「确有需要」时访问这些数据。

我们建议检查以下设置,并关闭你不需要的功能:

Mac 上的系统权限

完全磁盘访问权限

对电脑上的磁盘与文件拥有完整访问权。

自动化

允许智能体在本地应用中执行操作,例如发送消息或删除备忘录。

通知

允许智能体在完成任务时通知你。

对于把数据存放在本机 Mac 而非云端的应用,你可以单独限制其访问。Muse 为每个应用提供三种模式:

关闭

智能体既不能读取数据,也不能执行操作。

仅读取

智能体只能在你要求下读取信息。

读取并交互

智能体可以读取信息,并在该应用中执行操作。

操作确认

按照默认设定,Muse 在第三方应用中执行重要操作前,应当先征得你的许可。不过,把购物、与同事对话这类事情交给 AI 去判断,实在算不上好主意,所以最好 提前限制它的自主权 。在 Muse 中依次进入「设置」→「权限」→「连接器」,然后选择「部分操作时询问」(安全性较低的那个选项),或者「始终询问」。在「管理权限」中,复核你已经在「连接器」下授予的所有权限。

Meta 指出,如果你使用同一个账号,Muse 会自动连接 Facebook、Instagram 和 Threads;解除关联会切断访问,但 不会删除已经收集的数据 ——你需要手动删除。

网站访问

你可以用大致相同的方式设置 Muse 的互联网访问权限:

1

进入「设置」→「权限」→「网页访问默认设置」。

2

选择「部分操作时询问」,让 Muse 在分享你的数据或打开陌生网站前先请求许可;或者选择「始终询问」,让智能体在访问任何网站之前都必须先询问。

我们建议选择「始终询问」,并启用反钓鱼防护:智能体总有可能会误判, 决定去打开一个假冒或可疑的网站 。

用你的数据训练模型

Meta 声称,用于训练 Muse 的用户数据经过匿名化处理,存储时也不与账号关联。遗憾的是,这并不意味着你无法 通过上下文被识别出来 :智能体所处理的邮件、消息、文档和日历中,包含着姓名、电子邮箱地址、家庭住址以及其他会暴露你身份的细节。

Meta 还表示,在训练模型之前,它会移除某些类别的个人标识信息。但投入训练的信息越多,某一天它 意外出现在他人对话中、或因某个 bug 而公开的风险就越高 。遗憾的是,即便是内部的安全过滤器,有时也会失效。

而且,训练默认是开启的。要关闭训练,请依次进入「设置」→「数据控制」→「帮助改进我们的 AI 模型」,然后选择「关闭」。

移动设备上的权限

在移动设备上,我们建议复核你授予 Muse 应用的权限。在手机设置中,限制它访问你的联系人、照片、位置、麦克风和摄像头。同时关闭用你的数据训练 AI 的选项。

在 iPhone 上,打开「设置」→「隐私与安全性」,检查 Muse 可以访问哪些类别。在 Android 上,依次查看「设置」→「应用」→「Muse」→「权限」。你可以在「Muse」→「设置」→「数据控制」中单独关闭训练。

05

SAFE USAGE

如何安全地使用 AI 智能体

1

撤销你不需要的权限,不要与智能体分享敏感数据。 智能体能够访问的信息越少,一旦发生泄露或出现 bug,你的风险就越小。

2

不要把重要决定或操作交给智能体。 即便智能体在购物或发送消息前会请你确认,也要看清它究竟要做什么、在哪里做。否则,你可能最终为一笔在虚假网站上购买根本不存在的商品或服务的交易付了钱。Muse 的创造者自己也写道,这款智能体并未完全抵御提示注入——即针对 AI 的隐藏恶意指令。

3

不要运行你看不懂的终端命令 ——尤其是当某个网站、邮件或弹窗声称「安全检查」或「安装更新」需要这么做时。ClickFix 攻击正是这样运作的:它们诱骗用户亲手执行一条恶意命令。为防范恶意软件和虚假网站,请在设备上安装一套完整的安全解决方案。

4

让运行该智能体的应用保持最新。 开发者已经修复了 Patrick Wardle 发现的漏洞,但 AI 领域的安全问题总是层出不穷。

FURTHER READING

更多关于 AI 安全与隐私的阅读:

亲爱的日记:OpenAI 的 Computer History 功能如何运作,以及它为什么有风险

AI 驱动的浏览器:利与弊

为什么 AI 智能体需要一道「铁幕」

ChatGPT 中的隐私设置

DeepSeek:配置隐私与部署本地版本

END

原文信息

标题:More musings on AI security: capabilities and vulnerabilities of the Muse AI agent

中译标题:AI 安全再思:Muse AI 智能体的能力与漏洞

作者:Editorial Team(编辑部)

发布日期:2026 年 11 月 12 日

来源:Kaspersky 官方博客(kaspersky.co.uk),原文地址:https://www.kaspersky.co.uk/blog/muse-ai-vulnerabilities-and-privacy/31062/

免责声明:本文为英文原文的中文翻译,仅供技术交流与信息安全科普之用,不构成任何形式的安全建议或产品推荐。文中观点、数据与结论均属原作者及卡巴斯基官方博客,译文力求忠实原意,如有个别表述差异,请以原文为准。文中提及的漏洞信息在原文发布时已被厂商修复,请勿将本文内容用于任何未授权的测试或攻击行为。原文版权归 Kaspersky 所有,题图与插图版权归其各自权利人所有,此处仅作引用。

如果你觉得今天这篇有收获,欢迎 点赞、在看、转发 三连,我们下篇见。

更多 山东区域  卡巴斯基 网络安全解决方案 详情,请联系:

高进 - 186 6376 1060

正版买了,律师函还是来了 网络安全文章

正版买了,律师函还是来了

工业软件合规管理是制造业面临的挑战,强调授权覆盖所有使用者,并提供软件许可管理优化建议。全文分析了软件授权误区的常见情况,并提出通过许可优化回收、错峰使用等措施提高软件利用率。
评论:0   参与:  0