Anthropic亲手终结「套壳AI」

新智元 · 经八阕原文

掏的是顶配旗舰的钱,调的是转售路由的API,后台真正干活的,却可能是个缩水的小模型。

这种「挂羊头卖狗肉」的暗箱操作,曾是整个大模型API供应链最隐秘的灰色地带。

没有权重、没有机房,哪怕后台半夜被偷梁换柱、掺水降智,开发者也只能干瞪眼吃哑巴亏。 今天,这条暗箱链条被一剑斩断! 就在刚刚,Anthropic联手零知识证明祖师爷级学者,公布大模型「可证明推理」重磅突破,正式开源密码学验真系统FlashProve!

从此,开发者无需信任任何中心化机构,也不用服务商交出半行权重代码。大模型每生成一条回答,都会被强制钉上一张数学级「出生证明」。 哪怕手头只有一台普通家用CPU,跑上17秒,就能用纯数学方式精准验出每一个Token是不是目标模型「亲生的」,任何偷换模型、半路篡改的把戏都将当场现形! 更绝的是,这次打造出FlashProve的核心主力,竟是Claude自己。 这一次,所有代码、Lean 证明、技术文档,全部以Apache 2.0协议开源。

传送门:https://github.com/anthropics/FlashProve 按手印、开证明、秒级验真 终结大模型「套壳掉包」 平时觉得大模型突然「变笨了」,很多人会去质问模型「你到底是谁」,或者甩几道数学题去试探。 可模型自报家门的一句话本身就是后台生成的,算力负载与采样配置的微小波动也会改变回答,用户手里永远拿不到能把服务商钉死的铁证。 更让人后背发凉的场景,Anthropic写进了博客—— 随着模型越来越强、能自我部署,一个更高级的模型完全可能顶替获批的弱模型上岗,再装成弱模型的样子,躲开本该施加在它身上的监控。

想要验明真伪,传统路子只有拿到权重自己重跑一遍,可前沿模型的权重是各家的命根子,普通人也根本养不起4000亿参数模型的机房。 为了在不看权重、不重跑模型的条件下解开这个死结,FlashProve把验真流程拆成了环环相扣的三步。 第一步,离线「按手印」。 模型上线前,服务商在单张H100上花约39分钟,用零知识编码给模型权重生成一串唯一的承诺ID并向全网公开。这串ID就像权重的数字DNA指纹,哪怕偷偷改掉一个参数都对不上;但外界光看指纹,绝无可能反推出权重长什么样。 第二步,在线「开证明」。 每处理完一次对话请求,服务商的GPU就会顺手生成一份约19MB的密码学证明,用来证实这段输出确实是由那个按过手印的模型算出来的。 第三步,客户端「验真伪」。 任何用户或审计机构拿到回答后,在普通CPU上运行验证程序cp_verify,17秒就能拿到「真」或「假」的判决,全程既不要权重,也不要GPU。

撑起这套魔法的底层引擎,正是密码学界大名鼎鼎的zkSNARK(零知识简洁非交互式知识论证)。 验证者只需要像老师抽查作业一样,随机翻看几处,就能以极高概率抓到破绽。 为了把一次推理拆成能抽查的形式,每个请求背后要跑大约2000个名为sumcheck的子协议。

更硬核的是,它的安全性只依赖哈希函数BLAKE2,不靠椭圆曲线这类代数结构,甚至被认为能扛住未来的量子计算机攻击。这套密码学路线,也早已在Starknet这类以太坊二层网络里久经实战。 原理说通了,真正的难关在后面:这么重的证明,能不能在一个4000亿参数的大模型上跑得动? 单张H100狂飙5500倍 80GB显存吞下4000亿巨兽 答案是:能,而且只用一张H100。 团队测试对象是Meta的Llama 4 Maverick,4000亿参数的混合专家(MoE)模型,每个Token实际激活约170亿参数。

FlashProve充分利用了这一特性:证明器在生成计算轨迹时,工作量只跟那170亿真正干活的参数成正比,省去了95%以上的无效陪跑。 更妙的是,为了防止外界通过「哪几个专家被激活」反推出模型权重的秘密,系统用零知识编码把路由选择藏进了一个指示向量里,验证器在核对时是对所有专家做加权求和,既省下了海量算力,又能保密模型内部的运转路径。

模型4-bit量化后的权重足足有232GB,而单张H100的显存只有80GB,硬塞肯定当场爆显存。 如果把整个推理过程的计算轨迹一次性打包,再豪华的显卡也扛不住。 于是,团队把权重放在主机内存里,分段送进GPU,逐段完成计算与证明。 H100在工作时像流水线一样,每次只从内存里流式读取一个片段的权重,算完立刻在显存里完成编码、哈希与归约,只把极少量需要传递给下一段的数据留存下来。

靠着这种「吃完一段、消化一段」的流式接力,单张80GB显卡硬是把232 GB的庞然大物啃了下来。 114页论文无人通读 Claude包揽400MB数学证明 看到这里你大概会好奇,如此精密繁复的密码学协议与GPU加速工程,究竟耗费了多少名密码学博士的心血。 点开FlashProve的GitHub开源主页,右侧的语言统计栏立刻暴露出这个项目的反常之处。 整个仓库里,C++代码只占1.4%,Python占1.3%,CUDA占0.9%,而高达95.2%的代码(足足398MB)全部是用Lean 4数学证明语言写成的。

一个大模型推理仓库里为什么会塞满近400MB的数学证明,随仓附带的114页协议规范论文在第51页给出了答案。 人类学者在这项工程里只负责指明方向,从这篇114页的密码学论文、23页技术报告,到C++与CUDA底层代码,再到近400MB的Lean形式化证明,几乎全部出自Claude之手。

不光是写代码和写论文,项目里每一次测试、运行、对比、推算和代码审校,也全都由AI包揽;凡是文中出现「经阅读」「手工算得」「据汇报」的地方,那个读者、计算者和汇报者全都是AI。 密码学代码向来是软件工程里最脆弱的禁区,哪怕一个符号写反、一处随机数掩码漏掉,整座安全大厦就会瞬间坍塌。 Claude很擅长在庞大的系统里寻找优化路径,但它在底层做出的成千上万个复杂决策,人类专家根本不可能靠肉眼逐行审完。 既然人类审不过来,Anthropic干脆请出数学界的铁面判官Lean 4。 在这里,写进去的每一步数学推导都要经过编译器内核逐行核对,错一处都过不了关。

在整个项目里,人类科学家省去了审核上亿行中间推导的苦功,只跟AI一起敲定了最顶层的6条安全定义,把三件事钉成了铁律。 完备性。只要服务商老老实实按承诺的权重跑模型,生成的证明就一定能通过核验,被误伤拒绝的概率不到万亿分之一。 知识可靠性。如果服务商拿假模型冒充、或者偷改了一个Token,造假蒙混过关的概率不到2的100次方分之一,在数学上等同于不可能。 零知识。不管客户端拿着证明核验多少次,证明文件都不会向外泄露半点模型权重。 只要这几条顶层定理「说的是对的」,中间那近400MB的繁琐归约哪怕人类一眼不看,Lean 4的内核也已经替人类把住了关。

更有趣的是,就连这个仓库的打开方式,也告别了传统的人类程序员手册。 README开篇写明「专为Agent运行而建」,并附上了现成的提示词与AGENTS.md规范。

密码学祖师爷下场,AI跨入「数学铁律」纪元 站在更高的时间坐标上回望,FlashProve的诞生引爆了深远的技术合流。 它带来的是「AI造系统、Lean保真伪」的全新工程范式。 面对近400MB证明代码、114页公式推导的密码学工程,碳基大脑的阅读极限已经被击穿。 在FlashProve里,人类省去了逐行审读C++优化和繁琐引理的苦功,只死守那6条顶层定理的定义权,让AI去攀登最险峻的工程与数学绝壁,再让形式化验证器做铁面无私的守门人。 人类定下公理的边界,AI穷尽推理的迷宫,数学给出终极的审判。这正是人类通往超级智能之路上,最硬核的一张安全契约。

来源:新智元(经八阕转载) · 查看原文
Scroll for more