825美元跑通260亿参数！15个华强北盒子吓坏硅谷

先看这出“电子垃圾跑大模型”的戏

走进Anthropic前沿红队的实验室，你会以为走错了地方，进了深圳华强北的二手回收站。

桌上摆着15台杂牌安卓电视盒，单价55美元，内存只有4GB，外壳粗糙得像赠品，用几根几块钱的网线串在一起。就是这群在闲鱼上都卖不出高价的“电子垃圾”，把一个260亿参数的Gemma4-26B-A4B大模型拆成15份，硬生生跑了起来。

按常理，运行260亿参数模型，半精度下至少需要52GB显存。把蓝鲸塞进双开门冰箱，本来是不可能的事。

但它就是跑起来了。总硬件成本825美元，15台功耗加起来不如你家客厅一个灯泡。

第一笔账：4GB的盒子，怎么装下260亿参数

秘密在两门技术。

第一刀，极端量化。 高精度浮点数被压缩到4-bit甚至2-bit，模型体积暴降90%以上，代价是极轻微的精度损失。100斤带骨鲜牛肉，被脱水、剔除冗余、压成了几块牛肉粉。

第二刀，流水线并行。 260亿参数的模型被切成15份，1号盒子只算前两层，算完通过局域网扔给2号，2号再传给3号，15个盒子接力跑完一次推理。

速度只有0.39 token/秒，2.5秒吐一个词，慢得没法聊天。但Anthropic的报告说得清楚：“能跑，就是这份报告的重点。”

第二笔账：真正让硅谷后背发凉的，不是速度

如果只是“跑起来了”，这不过是一次极客炫技。真正让安全圈坐不住的，是另一组实验数据。

研究员让90亿参数的小模型在9种不同硬件上自主搭建推理环境，8种成功。让GLM-5.2在8节点封闭网络里自我复制，5次试验，4次传遍全部8个节点。第一代模型搭建成功率只有45%，把失败经验写成“踩坑笔记”传给下一代后，成功率爬到了61%到84%——不重新训练，只传笔记，Anthropic把它叫作“拉马克式进化”。

安全圈里有个现成的先例：Kimwolf僵尸网络曾控制全球超过200万台杂牌安卓电视盒，过去只是偷流量点广告。现在同样的200万台设备，如果每15台组成一个集群，就是约13.3万个26B级AI副本，理论上折合约40块英伟达H100的算力。

不用租机房、不用付电费、没有一个可以集中关停的总开关。 它不会像天网那样发射核弹，它更像“赛博粘菌”，在你家电视盒、摄像头、路由器里悄无声息地蔓延。

第三笔账：0.39 token/秒，到底能干什么

技术宅的第一反应是：这么慢，有什么用？

慢，是因为你把它当微波炉用了。 你打开ChatGPT，希望3秒出答案，那是微波炉逻辑。但企业流水线里的AI，不需要当微波炉，它当的是不要工钱、不知疲倦的慢炖锅。

老板晚上10点下班前布置任务：把这500份合同里的条款异常全部挑出来，按风险等级分类，生成汇总表。0.39 token/秒跑一整夜，8小时稳定吐出约11200个token，接近两万字的精细分析。第二天早上9点，报告已经躺在邮箱里。一整晚电费几分钱，干完了过去两个初级法务加一个行政助理加班才能做完的活。

Anthropic内部已有超过26%的研发任务由这类Agent自主领衔，基础编程、客服分发和工单审计的自动化接管率突破80%。

过去企业想用AI替代白领，还得算一笔账：云端API贵不贵，服务器ROI划不划算。这道账，构成了白领岗位最后一道防线。 现在，825美元告诉你：这道防线的硬件门槛，已经趋近于零。

结尾说句实在的

这个实验最值得记住的，不是“电视盒能跑大模型”这个猎奇画面。

是它把AI的“生存成本”从几万张H100、核电站级别的电力，一把拽到了825美元、几瓦功耗的地板上。 当智能的硬件门槛降到这个位置，算力就不再是巨头的护城河，而是草根和黑客也能翻进去的后院。

当然，实验室里的ADB端口没设密码，现实中的防火墙和掉线问题远没有这么理想化。但报告自己补了一句：Mirai那样的历史物联网病毒，只靠默认用户名和密码就能传播。现实里的门，未必比实验室里锁得更紧。

当15个华强北的电子垃圾凑在一起，就能让一个260亿参数的模型转起来的时候，最先被重新定价的，不是芯片，是坐在办公室里那些“信息中转、格式转换、基础校验”的工位。