面向可验证 AI 的轻量级推理密码学证明

当大型 AI 模型作为云端服务部署时，客户端无法保证响应正确或由预期模型生成。本地重新运行推理对大型模型不可行，而现有加密证明系统虽提供强有力的正确性保证，却引入不实际的 prover 开销（例如数百秒对应数十亿参数模型）。我们提出一种验证框架与协议，用轻量级抽样方法取代完整加密证明，基于神经网络统计特性。我们形式化了利用功能异构模型间的 trace 分离性来论证可验证推理协议安全性的条件。prover 采用 Merkle 树基向量承诺对推理执行轨迹进行承诺，仅对从输出到输入随机抽样路径上的少数条目进行开放。这以一种在效率与 soundness 之间进行权衡的协议实现，适合审计、大规模部署场景（重复查询放大检测概率）以及受理性激励的 prover（经检测后面临惩罚）。我们的方案将数十亿参数模型的证明时间从分钟级降至毫秒级，证明规模稍大。ResNet-18 分类器和 Llama-2-7B 实验表明，常见架构具备本协议所需统计特性，天然对抗策略（梯度下降重建、逆变换、logit 交换）无法生成可逃避检测的轨迹。我们还提出一种在已审阅委派模型中的协议，两个竞争服务器通过 Logarithmic 轮数实现正确输出识别。