实时 AI 消息
报道称Meta的AI代理Muse混淆对话并泄露私人数据
TechCrunch报道,Meta的AI代理Muse出现对话串线问题,员工称系统中出现了他们从未提出过的育儿请求、从未寻求的职业建议、从未下过的订单,甚至不属于自己的银行账户余额。这些描述指向代理产品在权限与数据隔离上的失效,风险不是答错,而是私人信息落到错误的人眼前。

TechCrunch于11月19日报道,Meta的AI代理Muse被发现混淆不同对话,并把私人数据暴露给不该看到的人。
报道援引员工的描述:在部分案例中,Muse展示了他们从未发出过的信息,包括关于育儿安排的请求、他们从未寻求的职业建议、他们从未下过的商品订单,以及不属于他们的银行账户余额。
这些例子的共同点是“归属错位”——内容本身或许真实存在,却出现在了错误的人面前。对代理产品来说,这比生成错误答案更棘手,因为它触及的是数据边界而非事实准确性。
Muse被定位为Meta的AI代理。代理类产品需要读取上下文、记住偏好并跨会话行动,这让它与普通聊天机器人在数据访问上的要求完全不同:它必须在每一步都知道“这是谁的对话”。
报道的摘要并未给出受影响的用户规模,也没有收录Meta的完整回应,因此目前还难以判断问题的范围。但员工愿意用具体场景描述异常,说明这些并非孤立的界面故障,而更可能与对话归属与检索逻辑有关。
这类事件对整个代理赛道都是警示。企业正在把代理接入邮箱、日程、订单与财务信息,一旦隔离边界失效,后果不是“答得不准”,而是敏感信息直接进入他人视野。
后续值得关注的是Meta会否说明原因与修复措施,以及代理产品是否会引入更严格的租户隔离、对话归属校验与审计日志。对采购方而言,这些机制的透明度可能比模型能力更能决定是否上线。
为什么重要
如果对话串线属实且范围不小,企业部署AI代理时会把数据隔离与权限审计置于能力演示之前,代理产品的准入门槛也将随之提高。
附近消息
全部11/20 02:00
Gemini API 上线工具检索:让智能体接数百个工具、少花 token
Google 在 Gemini API 中推出名为 Tool Retrieval 的工具检索功能,目前以预览形式向开发者开放。官方称该能力让智能体可以访问数百个工具,同时消耗更少的 token,指向的正是工具规模扩张带来的上下文成本问题。
11/20 02:03
BigCommerce 联手 Firmly,为每个商家配上“沃尔玛式”AI 代理
PYMNTS 报道,BigCommerce 与 AI 代理公司 Firmly 合作,为平台上的每个商家提供一套类似沃尔玛的 AI 购物代理。报道确认了合作的基本框架,但技术实现、上线时间与收费方式尚未在公开摘要中披露,渠道接入与商品数据打通成为关键看点。
11/20 02:09
Gemini 登陆 Mac 桌面:能整理文件、填写表单、跑多步工作流
Google 对 Gemini 的最新更新把 AI 智能体带到 Mac 上,可以整理文件、填写表单并执行多步骤工作流。这标志着 Gemini 从对话助手向能够直接操作电脑的代理角色又推进了一步。
11/20 00:59
Anthropic 登陆纳斯达克:开盘 110 美元,较 83 美元发行价高出 27 美元
Anthropic 的股票正式在纳斯达克开始交易,开盘报 110 美元,比 83 美元的 IPO 发行价高出 27 美元。据 TechCrunch 报道,此次发行募集的新资本超过 800 亿美元。