与面对面和朋友交谈能通过多种感官验证对方身份不同，与AI模型交互时几乎没有可靠验证手段。用户只能看到输出，无法确定响应是否来自开发者宣称的特定模型，而非路由服务因成本原因偷偷替换，或攻击者篡改了 token 流。这种信任缺失在关键应用中尤为突出。
最新技术进展聚焦一种名为zkSNARK的密码学证明，它同时具备强隐藏性和高效率，非常适合可证明推理场景。研究团队开发了FlashProve系统，在证明生成速度和证明尺寸上都取得优化。他们已将代码、Lean形式化证明和文档以Apache 2.0许可开源，明确表示这是中间阶段成果，希望更多人参与改进。
这一方向的成熟将让开发者能够 cryptographically 验证模型身份和计算过程完整性，避免隐形替换或中间人攻击。对中文AI从业者来说，在构建需要高可信度的应用如金融分析、医疗辅助或企业内部Agent时，可证明推理技术将成为重要基础设施。未来随着证明系统进一步高效化，生产环境部署可验证大模型的门槛有望降低，值得持续关注相关开源实现和性能优化。