
用过API的人大概都遇过这种憋屈:后台明明标着顶配旗舰,跑出来却时不时透着一股「缩水味」。你去问模型你是谁,它一本正经报个名字,可这句话本身就是它自己生成的;你甩几道题试探,算力一波动,答案又变。手里攥着一分钱不少的服务费,愣是拿不出一张能把服务商钉死的证据。

这段憋屈,Anthropic说它打算终结。11月2日,他们开源了一个叫FlashProve的系统,给大模型加了一道「验真」工序——以后谁再想偷换模型、掺水降智,数学这关过不去。

一、光靠质问,永远套不出真相
先说明白痛点在哪。大模型推理如今多是「黑盒代工」:服务商拿你的请求,转手路由给某个模型,你只看到结果,看不到后台。算力紧的时候偷偷换个小模型顶班,谁能知道?你质问它,它自报家门;你出题考它,它还能现编。用户手里永远差一样东西——能当铁证的东西。
二、三张牌:按手印、开证明、验真伪
FlashProve的思路不玄,就三步,有点像验钞。

第一步,模型上线前「按手印」。服务商用一张H100,花约39分钟,把模型权重的「数字指纹」算出来,公开挂出去。这串ID约6.5MB,却和每一处参数死死绑定——你敢偷改一个参数,指纹立刻对不上;外人又没法从指纹反推出权重本身。
第二步,每回答完一次对话,「开证明」。后台GPU顺手生成一份约19MB的密码学证明,证实这段输出确实是「按过手印」的那个模型算出来的。
第三步,客户端「验真伪」。你拿到回答和证明,用普通CPU跑一下校验程序,约17秒出结果:真,还是假。全程不用权重,不用GPU。

这套玩意的学名叫zkSNARK,零知识简洁论证,圈内早就在用——以太坊的二层网络Starknet就靠它干活。它的安全性只依赖哈希函数,甚至被认为能扛住未来的量子计算机。

三、一张80GB的显卡,怎么啃下232GB的模型
难点在后面:这么重的证明,4000亿参数的模型跑得动吗?
Anthropic拿Meta的Llama4Maverick试。这模型是混合专家结构,4000亿参数,但每个token真正干活的只有约170亿。FlashProve聪明就聪明在这——证明器的工作量只跟那170亿「真干活」的参数成正比,省掉九成以上的陪跑。


可权重量化后仍要232GB,一张H100显存只有80GB,硬塞必爆。团队的解法是流式接力:权重放内存里,一段段送进GPU,算完一段消化一段。就这样,单卡硬是跑出了每秒约110个token的证明速度。

四、更离谱的:写这套系统的主力,是Claude自己

真正让圈内人倒吸一口气的是另一件事。
打开它的GitHub仓库,语言统计栏很反常:C++只占1.4%,Python占1.3%,CUDA占0.9%,剩下95%、近400MB,全是Lean4数学证明语言。

随附的114页论文在第51页交代:从密码学论文、技术报告,到底层C++和CUDA代码,再到这近400MB的数学证明,几乎全出自Claude之手。


README开篇就写明「专为Agent运行而建」。

密码学代码是软件里最怕出错的地方,一个符号写反,整座安全大厦就塌。人类审不过来,Anthropic干脆请出数学的「铁面判官」Lean4——每一步推导都要过编译内核,错一处就卡住。人类科学家只跟AI一起钉下最顶层的6条安全定义:诚实生成的证明必被接受,造假蒙混的概率不到2的100次方分之一,证明文件不泄露半点权重。

五、别急着神化,它离日常还有距离
不过得泼盆冷水。FlashProve自己标着「研究原型、未经审计」,目前只覆盖贪心解码的整数版本,上下文长度也只到1024个token,侧信道攻击不在承诺范围内。也就是说,它离「每个接口都验真」的日常还很远。倒是拿同类方案比一比能看出进步:一年前的VerInf证1000个token要14小时、证明足有93GB——FlashProve把它压到单卡每秒110个token、证明19MB。
真正值得留意的是那条合流:人类定公理的边界,AI去爬推理的迷宫,数学给出审判。这套「AI造系统、形式化验证保真伪」的打法,可能是大模型时代最硬的一道安全契约。
更新时间:2026-11-05
本站资料均由网友自行发布提供,仅用于学习交流。如有版权问题,请与我联系,QQ:4156828
© CopyRight All Rights Reserved.
Powered By 61893.com 闽ICP备11008920号
闽公网安备35020302034844号