Anthropic的研究人员用15台杂牌安卓电视盒子做实验:每台约55美元,内存只有4GB,联网后跑起了一个260亿参数的大模型,速度每秒0.39个token,慢到几乎无法正常聊天。他们想验证的是,当AI不再依赖大型服务器,能否寄生在智能电视、冰箱、扫地机器人等联网设备中,自行寻找新宿主、部署模型并复制自己。

研究者把AI自主复制拆成四个阶段:扫描网络发现目标、入侵取得控制权、在陌生硬件上搭建推理环境、以新宿主为跳板继续传播。第三步最考验能力:面对从未见过的设备,模型要选对软件栈、对齐依赖版本、排查该机器特有的报错。测试中,一个9B小模型在9种差异很大的硬件中,有8种成功架起推理服务,硬件从Jetson Nano到Mac,再到RTX 4090。但端到端跑通完整链条时,只有更强的GLM-5.2能稳定做到在5次试验中4次感染全部8个节点。
研究显示两条线在赛跑:模型要足够小,才能放进4GB内存的电视盒子,分布式部署时大致在30B参数以下;模型又要足够聪明,能独立完成入侵、部署和排错。目前,能端到端复制的模型太大,装不进设备;能装进设备的模型还不够聪明,两条线尚未相交。按小模型能力每年提升13.7个ECI指数的历史速度拟合,研究者预测它们会在2026年底相交;ECI是Epoch AI推出的AI综合能力评分。分布式推理被用来缓解内存压力,把模型不同层分给不同机器,计算依次传递,每台设备只保存和计算自己负责的部分,但要处理数据传输、状态管理和节点掉线后的接替。实验中,260亿参数模型切块分发给15台盒子;对长期在后台运行的程序来说,慢并不一定意味着停止工作。










