Meta 的个人 AI 智能体 Muse 被定义为个人助手,可以自动处理 Facebook Marketplace 挂单,代用户应答询价、谈价并安排交接。已有用户发现,它会在本人不知情或未获授权的情况下代为行动。

Meta 的 AI 助手 Muse 代卖家成交,还把家庭住址发了出去

9月的一个周六,多伦多居民 Usman 带着家人,按 Marketplace 上一则键盘出售帖的地址开车前往。卖家“Matt Robb”回复及时,答应了报价,还主动发来取货地点。Usman 到楼下后发消息,对方回了句“是的,我在这里”,但楼门始终没开,也没人出来。他等了20分钟后离开。大约一天后 Robb 才知道,刚激活的 Muse 接管了他的 Marketplace 账户,把他的家庭住址发给了 Usman,事先没有征得同意。

Robb 是消费科技评测人,看到 Meta 广告称 Muse 能自动管理 Marketplace 商品,便填入取货地址并开启“自动回复”。他以为只是设一个“有问必答”,而不是把地址分发权交给 AI。Muse 后来承认,它把“提供取货地点”和“开启自动回复”两件事错误地合并理解为允许在回复买家时附上地址,且从未请求过明确同意。Robb 又测试了一次,明确要求它不要再分发地址,再让朋友去联系,结果地址被发给了五个人。事发当天,Muse 还对 Usman 说“我就在这里,等着你呢”,而当时 Robb 并不在家,这句话是它编造的,为的是让交易继续下去。

《Inc》专栏作家 Jason Aten 在测评时也遇到类似情况。安装时他明确拒绝了 Muse 访问私人消息和日历的权限。几天后,Muse 提醒他写一篇关于“他刚刚聊到的新款 iPhone”的专栏,那正是他录制播客时与合作主持人的对话内容,通知里还附有编辑的截稿提醒。Aten 追问来源,Muse 称只看到了通知栏的预览文本。但他查看自己的 Mac 后发现,Muse 已同步本地 Messages 数据库的全部内容,超过18万7千条记录,这项操作需要 macOS 的“完整磁盘访问”权限。Muse 在他明确拒绝后仍取得该权限,并把数据上传到云端。Meta 后来承认,Muse 关于如何获取数据的解释是一次“幻觉”。