一张老游戏卡，挂机五个小时，最后交出一个真能玩的东西，中间没有一行是人手写的代码。

这句话得拆开看，不然容易当成噱头。

这张卡的配置，一张清单就写完了

跑这一轮的是 RTX 3060，12GB 显存。模型叫 Bonsai 2 27B，底子来自 Qwen3.8-27B，权重文件打包完只有 5.95GB。托着它干活的不是哪个云端接口，是 Hermes Agent 这款开源编码智能体，推理全程放在本地，一趟请求都没往外发过。上下文窗口开到 125K。

速度这一栏有点难看：新起一轮峰值大约 50 token 每秒，整场五小时摊下来平均 22 token 每秒。按这个数，敲一行字得等上半秒多。

五小时下来，智能体一共吐了 32.8 万个 token，落成 8 个 JavaScript 文件、2368 行代码，收尾是一个完整可玩的游戏。

27B 塞进 5.95GB：三元压缩到底做了什么

Bonsai 系列最狠的一手是"三进制"。常规模型里每个权重是个带小数点的数，它只留 -1、0、+1 三个值，体积一下子就砍下来了。

PrismML 在 9 月 17 日发布了 Bonsai 2 27B，官方口径是：一个 278 亿参数的多模态模型，三元版 5.9GB，比同级别的浮点版本小九倍多，20 项基准跑下来聚合分 83.9，对标的 Qwen3.8 27B 是 85.4，折算保留率 98.2%。上一代 Bonsai 27B 这个数只有 95%，一代功夫把坑填掉一半。同款在 RTX 5090 上官方标称最高 143 token 每秒，Apache 2.0 协议、免费下载。

PrismML 创始人兼 CEO 说，强大的模型不必被关在云端里；公司顾问、加州大学伯克利分校的 Ion Stoica 补了一句更关键的：这么小的体积居然没掉多少本事才真正有意思，这个差距要是一直往回收，能放下好模型的地方会彻底变样。

难的不是写代码，是别把项目跑偏

两千多 JavaScript 行说白了自己一点都不稀奇，眼下随便哪个模型都能吐出几百行。稀奇的是让它连着五个小时不跑偏。

一个智能体要真干活，得自己建文件、记得自己写过什么、回头检查改得对不对、在已有代码上动刀、出错再补救，还得长时间咬住同一条线不松口。一次长跑攒下来的，是几千行源码、一串工具输出、一堆报错、一堆已经翻车的旧方案。模型一断线，工程就开始歪。

这一轮里 125K 上下文干的就是这活儿：把前面这些零碎全兜住，让同一份工程能连着干五个小时不换牙。

各方怎么看：官方跑分漂亮，第三方实测说了另一半

这里得泼点冷水。

有独立测评把 Bonsai 2 27B 拉到 RTX 3090 上跑，实测约 69 token 每秒，比浮点版 27B 快得多，这点没争议。但质量那一栏，测评方的说法保守很多：让它一口气做一个街机平台，Bonsai 出得慢、成品糙，玩法、字体、手感都差点意思，同场对比的浮点版明显更顺手。另有实机复现里，直接上一个"整个浏览器操作系统""大型 FPS"这类重活，几次都卡在空转和无效代码里，指令拆到极简才肯出东西。

说白了，官方那 98.2% 保留率讲的是基准分。落到 agent 编码这种长链条活儿上，掉下来的多半是"能不能一次干对"。有测评博主的说法更直白：小模型给足明确指令会干活，指令一松就散。想自己上手的，最好拿同一张卡先跑一遍自己那套活——试玉要烧三日满，辨材须待七年期，这话放到本地模型上一样成立。

22 token/s 又怎样

讲道理，这张卡本来就不跟数据中心拼响应速度。

22 token 每秒的活儿有个很舒服的用法：任务丢给 agent，人该干嘛干嘛，隔几小时回来验收一遍。起一个任务、放着跑、回头看结果，这种用法对延迟压根不敏感，慢和"能等"是一回事。

MTP 版把峰值推到接近 50 token 每秒，同档硬件上差不多翻倍。这套改进已经公开放出，据报道上线头三天下载量过了 4000 次。

3060 这张卡，凭什么值这个价

3060 是最寻常的消费级卡之一，Steam 硬件榜上前几名常驻。这压根不是什么工作站级演示。

真正值钱的是这张清单背后的意思：本地 AI 早就不只是"多买点显存"这一件事了。压缩更狠、推理引擎更省、缓存更聪明、投机解码更会猜、上下文更长、agent 外壳更会管事——这些零件凑到一块儿，一张当初压根没按 27B 模型设计的卡，就能变成一台替你连干五个小时活的机器。

前些年 27B 级模型是得堆卡才跑得动的事，如今它蹲在一张十几年前的老游戏卡上。旧时王谢堂前燕，飞入寻常百姓家——话是老话，真落到自己机箱里的那一下，感觉还是两回事。

而这一路全靠水滴石穿：32.8 万个 token 不是一口气吐出来的，是一格一格码出来的。跑分好看归跑分好看，最后能不能真交付一个能玩的东西，得自己动手才算数。

原文链接：
https://x.com/Oluwaphilemon1/status/2105846759754788886