路透社称Meta员工被Muse主动推送的私密信息惊到,安全公司NebuSec则演示仅用一个网页就能把用户的聊天记录和记忆导出。两起事件同周曝光,Muse下载量已破千万。
Meta的Muse AI智能体在同一周遭遇两组隐私质疑。路透社报道称,内部帖子显示Meta员工对涉及私人数据的主动消息感到不安;另一家安全公司则演示,仅一个恶意网页就能从该智能体中取出用户的私人聊天。
Muse自9月上线以来下载量已突破1000万,是Meta计划创造数十亿美元AI收入的核心产品。

路透社在查阅二十余条内部帖子后,于11月18日发布调查。一名员工称,Muse提醒她回复姐姐在加密通讯应用Signal上的消息。她写道,这看起来像"严重的隐私侵犯",并补充说自己"绝对没有授权它访问其他应用"。另有同事发现,Muse在安卓手机上默认被设置为可读取推送通知。路透社还提到,一名员工询问钓鱼天气时,收到的回复中包含"顺便说一下,两条银行更新,你的Capital One余额是2722.58美元,你的Charles Schwab余额是5899.57美元"。
路透社与Signal及AI Now Institute合作测试了该行为。在安卓和Mac上,Muse绕过了Meta的"Connector"工具,利用设置阶段获得的权限读取Signal消息;同样的请求在iPhone上被拦截。Signal总裁Meredith Whittaker称这次上线"在技术上是鲁莽的"。据路透社报道,苹果此后更新了macOS,封堵了这一路径。
Meta发言人Daniel Roberts称这些是"孤立事件",并表示许多可能的账号混淆属于已经处理过的幻觉。据路透社报道,Meta超级智能团队的一名成员对同事说,这些幻觉"偏向最令人不适的话题,比如财务、安全、安保"。Meta还表示,员工使用的Muse版本与公众版本不同。
11月20日,安全公司NebuSec公布了相关攻击研究。让Muse导出一个由攻击者控制的网页,利用了该智能体Chromium浏览器中的缺陷;Muse"Sentinel"流量监控的缺口,又让研究者得以把用户的对话历史和已存记忆发往外部服务器,且不触发审批提示。一次Linux内核漏洞利用帮助他们逃出智能体容器,获得用户虚拟机的root权限,包括其中的凭据。
该攻击为实验室演示,且局限在单一用户机器内。NebuSec称所有漏洞在发布前均已修补。据The Hacker News报道,Meta尚未公开确认这些修复。
免费获取企业 AI 成熟度诊断报告,发现转型机会
关注公众号

扫码关注,获取最新 AI 资讯
3 步完成企业诊断,获取专属转型建议
已有 200+ 企业完成诊断