跳到正文
華啓未来 華啓未来株式会社
联系我们

热点解读

Anthropic 发布 FlashProve:用密码学证明 AI 回答出自指定模型

结论是:FlashProve 是研究原型,中小企业本周没有需要做的操作。但「请供应商证明用的就是宣传的那个模型」的时代正在靠近,现在就定好要写进合同和内部规则的提问是有价值的。正文事实均为2026年11月4日查阅 Anthropic 的发布、GitHub 的 README,以及 GIGAZINE、ITmedia NEWS 的报道所得。

发布 2026年11月4日

1. 发布了什么

Anthropic 于2026年11月2日发布研究成果 FlashProve,用密码学证明某条 AI 回答出自指定的模型。研究由其 Frontier Red Team 与 EPFL、MIT 等机构的研究者共同完成。它要解决的问题是:用户光看输出,无法确认实际回答的是哪个模型,因此路由服务为省成本悄悄换成别的模型,或攻击者篡改令牌流,都无从察觉。Anthropic 表示这不是完成的研究,只是中途进展的分享(Anthropic 的发布)。

其做法是:服务提供方先公布与模型权重对应的一个简短「指纹」(承诺值),再为每条回答附上证明文件,表明「具有这组权重的模型针对这个输入生成了这个输出」。接收方不需要知道权重,用没有 GPU 的普通 CPU 几秒就能验证;若回答出自别的模型,验证就会失败。证明不会泄露权重信息,但模型的架构并不保密。代码和用 Lean 写的形式化证明以 Apache 2.0 许可公开(Anthropic 的发布、GitHub)。

日本媒体方面,GIGAZINE 于11月4日介绍了它,作为应对「无法排除服务方偷偷使用低性能模型」现状的办法(GIGAZINE)。ITmedia NEWS 列举的用途包括:让第三方评估机构确认被评估的模型与实际提供的模型一致等(ITmedia NEWS)。

2. 为什么还不能实用

Anthropic 自己列出了局限。验证用的是 Meta 的 Llama 4 Maverick(4000 亿参数的混合专家模型)4 位量化版,一块 H100 每秒约生成 110 个令牌的证明,相当于正常运行模型所需 GPU 时间的约 70 至 95 倍。可处理的上下文只有 1,024 个令牌,远短于实际聊天;证明的对象是整数化模型按贪心解码(总是选概率最高的令牌)得到的输出。GitHub 的 README 也写明这是不再维护的研究成果(Anthropic 的发布、GitHub)。ITmedia NEWS 指出,证明是在回答之后生成的,所以是事后检测篡改,而不是事前阻止(ITmedia NEWS)。

本公司观点 我们认为,对中小企业而言,眼下的意义不在技术本身,而在于「核实 AI 里面是什么」这种思路会逐渐成为标准。越是拼凑使用廉价 AI 服务的公司,越会在说不清实际运行哪个模型的情况下,把它用于客户咨询和报价,出了问题才被客户要求说明。现在就能核对的是:所用服务的提供方是否以文档写明所用模型名称和切换条件。写不出来的提供方,用于重要业务的优先级就可以降低。

3. 中小企业现在可以确认的事

  • 把公司内部使用的 AI 服务,以及用于客户应对和报价的 AI 列成清单
  • 确认各提供方是否在合同或规格书里写明所用的模型名称
  • 向提供方询问:合同期内若切换模型,是否会事先通知
  • 对用于重要判断的 AI,定好由负责人复核结果的步骤
  • 这项研究还在试作阶段,不必急于引入,每半年复查一次提供方的应对情况

本公司展望

我们判断,未来半年到两年,由 AI 代替顾客去找店、比供应商的用法会普及,再往后,AI 之间直接谈条件的场景会增多。到那时,核实对方 AI 是否真是其所称的模型或企业的机制,会成为交易信任的组成部分。FlashProve 是其中一个入口,距离实用还有速度和上下文长度的障碍。即便如此,能说明自家 AI 用了什么、如何作答的公司,更容易被人和 AI 选中。把商品和价格信息整理成机器可读的形式、记录好 AI 的使用情况,这样的布局现在正是时候。

本文相关问答

FlashProve 是什么?和我们公司使用 AI 有关系吗

这是 Anthropic 于2026年11月2日发布的研究原型,用密码学证明某条 AI 回答出自指定模型。它是不再维护的研究成果,不是现在就能用的产品。眼下只需向所用 AI 服务的提供方确认所用模型名称和切换条件即可。

怎样确认 AI 服务没有偷偷换成便宜的模型

Anthropic 自己也指出,仅凭输出质量很难分辨。目前能做的是确认合同或规格书里是否写明模型名称及切换时的通知。在 FlashProve 这类证明达到实用之前,对重要业务请同时保留由负责人复核结果的步骤。

参考来源

  1. Anthropic: Progress on provable inference for large language models (2026-11-02)anthropic.com
  2. GitHub: anthropics/FlashProve — A research prototype for zero-knowledge proofs of AI inferencegithub.com
  3. GIGAZINE: 「特定のAIモデルで出力が生成されたこと」を証明できる仕組み「FlashProve」をAnthropicが開発gigazine.net
  4. ITmedia NEWS (via Yahoo!ニュース): Anthropic、AIの応答が「本当にそのモデルによるものか」を暗号技術で証明する「FlashProve」を公開news.yahoo.co.jp

相关问答

相关服务

想在自家业务中试用

如需了解文中内容套用到贵公司业务时的做法与费用,请通过联系表单咨询。