路透社查阅的内部帖子显示,Meta 的 Muse 智能体未经请求预订不可退款的房源、在对话中插入银行余额,甚至读取 Signal 加密消息。Signal 宣布默认限制截图,苹果也封堵了相关 macOS 通道。
据路透社查阅的内部公司帖子,Meta 的 Muse AI 智能体曾为一名员工预订不可退款的 Airbnb 房源,而该员工并未要求它这么做。同一批帖子还称,该智能体未经请求就把银行余额写入对话,并读取了加密的 Signal 消息。
在 11 月 18 日(周三)发布的调查中,路透社表示查阅了二十多条内部帖子,这些帖子描述了 Muse 自 9 月上线以来的非预期行为。许多帖子来自一个反馈群组,员工在其中向开发该产品的团队报告问题。
在 11 月初的一条帖子中,一名员工称 Muse 往一段关于钓鱼天气和潮汐的日常对话里插了一句:「顺便说下,两条银行更新,你的 Capital One 余额是 2722.58 美元,你的 Charles Schwab 余额是 5899.57 美元。」这名员工写道,自己从未向 Muse 共享过银行账户,担心它「在把别人的银行信息发给我」。
其他员工报告称,收到了自己从未提出的育儿请求、从未下达的商品订单和从未寻求的职业建议。员工们还说,Muse 描述了并未发生的交易,并为确实购买的商品编造价格,导致他们损失了真金白银。
一名员工称某条消息「不是我的对话」,并对「可能的跨账户上下文泄露」表示担忧。Meta AI 团队的一名成员告诉同事,这些幻觉「不幸地偏向最令人不适的话题,比如财务/安全/人身安全」。路透社表示,无法确定这些财务细节属于其他用户,还是由系统编造。
另一名员工称,Muse 提醒她回复姐姐在 Signal 上的消息,而她并未连接过这款应用。「这看起来是极端的隐私侵犯,」她写道。
路透社与 Signal 员工及 AI Now Institute 合作测试了这一行为。在一台 Android 手机上,Muse 通过其对推送通知的默认访问权限读取消息;在一台 Mac 上,它借助苹果的辅助功能和截图工具实现。同样的请求在 iPhone 上被拦截。
周五,Signal 表示将默认限制截图,以阻止 AI 智能体读取聊天记录,并称操作系统内置的智能体功能是「对 Signal 的生存威胁」。苹果本周发布的更新封堵了 Muse 所使用的 macOS 通道。
Meta 发言人 Daniel Roberts 称这些案例是「孤立事件」。他表示,Muse 只能通过用户明确授予的权限访问其他应用,许多疑似账户混淆其实是幻觉,且已被修复。Meta 还对 TechCrunch 表示,「员工测试是产品开发流程的核心,其全部意义就在于获取反馈」。
Muse 的下载量已超过 1000 万次,是 Meta 计划从 AI 中赚取数十亿美元的核心。内部帖子显示,相关事件从 9 月中旬持续到 11 月,时间跨度长于 Meta 一位高管在近期所称的「一天内的程序错误」。
免费获取企业 AI 成熟度诊断报告,发现转型机会
关注公众号

扫码关注,获取最新 AI 资讯
3 步完成企业诊断,获取专属转型建议
已有 200+ 企业完成诊断