Anthropic推出FlashProve系统：为AI模型输出签发”数字指纹”防伪认证
AI时代如何验证回答的真实性？
近日，人工智能公司Anthropic宣布正在开发一套开源验证系统，旨在帮助用户确认某段AI输出内容确实源自其信任的特定模型。该研究成果于周二在其官方博客公布。
这套被称为FlashProve的系统，核心理念是提供”可证明推理”——通过密码学手段生成数学层面的保证，让用户能够确认收到的答案确实来自他们预期使用的模型，而非其他替代品。
为AI输出上溯”身份溯源”
FlashProve的设计逻辑与加密邮件签名机制类似，接收方可以确认邮件确实来自声称的发送者，而该机制同样能够抵御任何冒充行为，即便是模型的开发实验室本身试图伪装也不行。
- 防止偷换模型：防止AI公司为了降低成本而悄悄替换为更廉价的模型
- 杜绝性能虚报：防止使用更昂贵的模型来夸大其性能测试数据
- 第三方验证：开发者声称其软件库已接受前沿网络安全智能体的漏洞扫描，或企业声称其商业计划已获适当模型审核，这些声明均可通过此系统进行验证
无需泄露核心参数即可实现
该系统的运行依赖于AI实验室为每个发布的模型公开一种”指纹”信息，后续可通过密码学手段将其与具体输出进行匹配验证。关键在于，这些指纹信息不会暴露模型的权重参数——即定义模型行为模式的内部核心数据，这也是Anthropic、OpenAI等闭源模型厂商极力保护的核心资产。
这意味着各大实验室可以在不泄露核心竞争力的前提下参与该系统，商业化模型同样适用。此外，系统设计力求轻量高效，支持在本地设备上完成验证。
开源但不急于落地
作为此次发布的一部分，研究团队公开了详细的技术规范文档以及系统各组件的工作代码，代码已在GitHub上以开源许可证正式发布。
不过，研究人员明确表示，目前仍处于研究阶段，Anthropic及其他实验室均无部署该系统的计划。研究团队在公告中指出：”这篇研究博文旨在分享阶段性进展，而非最终成果。我们公开的目的，是希望其他研究者能够关注现有工作，在此基础上进一步完善。”
关注微信号：智享开源 ，及时了解更新信息。
公众号：智享开源
还没有任何评论，你来说两句吧！