实时 AI 消息
Anthropic开源FlashProve:用密码学证明一条回答出自哪个模型
Anthropic本周公开开源工具FlashProve,它用密码学指纹为模型输出生成可验证证明,让用户确认回答是否真由宣称的模型生成。该工具能验证模型身份,却无法判断模型是否在训练中蒸馏了Claude的输出,且证明生成的计算开销仍高达常规推理的70至95倍。

Anthropic本周公开了一套名为FlashProve的开源系统,用来回答AI服务里一个长期只能靠信任维系的问题:用户如何确认一条回答真的来自厂商宣称的那个模型。据ProPakistani 11月4日的报道,这套工具用密码学方法验证模型身份,而不只是依赖服务方的自我声明。
机制并不复杂。厂商为每个模型发布一个唯一的密码学指纹;模型生成回答时,服务方可以给出一个数学证明,把这段输出与已发布的指纹绑定;用户验证该证明,就能确认回答出自哪个模型。如果实际生成内容的是另一个模型,验证应当失败。报道把这一思路类比为电子邮件的密码学签名。
关键设计在于,验证不需要暴露模型权重。Anthropic、OpenAI等公司通常不公开旗舰模型的权重,而FlashProve只要求厂商发布不泄露专有参数的指纹。系统还设计了在本地设备上轻量验证的路径,但生成证明本身需要大得多的算力。
Anthropic用Meta的Llama 4 Maverick做了演示,这是一个总参数4000亿的模型。演示采用四位量化权重、单张NVIDIA H100,证明生成速度约为每秒110个token;一个1024 token的请求会产生约19MB的证明,CPU在数秒内即可完成验证。
代价同样明确:生成证明所需的GPU计算量约为vLLM常规推理的70到95倍。这一开销被报道列为主要障碍,也决定了短期内它更像是可研究的协议,而不是默认开启的功能。
边界也需要说清楚。FlashProve验证的是哪个模型生成了输出,而不是某个模型是否用Claude的输出训练过。它无法独立证明未经授权的模型蒸馏,也无法识别训练数据来源,而这恰恰是Anthropic此前一系列指控的核心。
背景是持续数月的纠纷。2026年9月,Anthropic指控Moonshot AI在十天内把近30万条Kimi用户请求转发给Claude,主要经由Opus模型,并使用5380个欺诈账户访问;更早在2月,它指控DeepSeek、Moonshot和MiniMax通过约2.4万个欺诈账户进行了超过1600万次交换的大规模蒸馏。报道同时强调,这些仍属Anthropic的指控,并未经独立证实。
发布形态上,Anthropic已在GitHub以开源许可公开了技术规范、数学研究和可运行代码,并称项目仍在开发中,在模型计算、支持的输出类型、以及优化实现与形式化验证协议之间的一致性方面存在局限。公司没有宣布将在Claude或任何商业服务中部署FlashProve,而是把技术交给研究者和开发者去测试和改进。
如果被采用,FlashProve能让“我们用的是某个模型”这类说法变得可核验:开发者可以证明某次代码扫描确实由高级安全模型完成,研究者也能核对基准测试时的模型身份。但它只证明身份,不证明答案正确,也不证明训练数据的来源,接下来要看是否有厂商愿意发布指纹并承担证明成本。
为什么重要
FlashProve把“模型身份”从厂商承诺变成可验证的数学声明,为基准测试和商业交付提供了新的问责工具。但它只覆盖身份,不覆盖蒸馏与训练数据,短期内更像是补上一小块信任缺口,而非解决争议本身。
附近消息
全部11/05 00:30
CrowdStrike收购Fiddler与Dreadnode,把AI代理的测试、监控与拦截纳入安全平台
据The Futurum Group报道,CrowdStrike已收购Fiddler与Dreadnode两家AI安全公司,意在覆盖AI代理的测试、监控与阻断环节。这笔交易把模型可观测性与对抗性测试能力并入其安全平台,显示主流安全厂商正把代理式AI当作新的防护对象。
11/05 00:17
Google以关闭搜索施压学校接受AI,遭政界与反垄断人士抨击
Google宣布,使用其K-12教育软件的学校若不选择启用AI工具,学生将无法使用搜索功能,随即引发强烈反弹。多名美国政界人士与反垄断人士指责Google以搜索垄断地位胁迫学校,Google则回应称相关功能默认关闭、由学校自行选择。
11/05 00:02
Atlas Cloud 接入字节跳动 Seedance 2.5,视频模型争夺分发入口
Atlas Cloud 宣布已将字节跳动的 Seedance 2.5 AI 视频模型集成到自家平台,开发者与内容团队可以在同一套接口下调用这一视频生成模型。消息以新闻稿形式发布,并未披露定价、可用区域或具体上线时间等细节。
11/05 00:00
腾讯发布升级版混元 Hy4,主打视觉理解能力
据 Caixin Global 报道,腾讯发布了升级版 Hy4 模型,为这一版本加入了视觉理解能力。报道停留在发布层面,未披露参数规模、上下文长度、开放方式与定价,实际能力仍待官方文档与开发者测试验证。