DiFR: 面向非确定性推理的推理验证
机器学习
2025-11-26 v1 人工智能
摘要
随着LLM推理需求的增长,验证提供者及其客户是否正确执行推理过程（无错误或篡改）变得越来越重要。然而,由于 benign 数值噪声,重新运行相同的推理过程两次常常导致不同结果,这使得区分合法变体与实际问题变得困难。为此,我们引入Token-DiFR(Token-从参考值 divergenCE),一种通过将生成的token与以相同随机种子为条件的受信参考实现做出的预测进行比较来验证推理输出的方法。通过同步采样种子严格约束有效输出,提供者几乎无法偏离正确推理,这使得输出token本身可作为正确性的可审计证据,且对提供者无额外成本。Token-DiFR可靠地识别采样错误、模拟bug和模型量化,在检测4-bit量化时,AUC可超过0.999,仅需300个输出token。对于需要样本高效前向传递验证的应用,我们额外引入Activation-DiFR,一种利用随机正交投影将激活压缩为紧凑指纹进行后续验证的方案。Activation-DiFR仅需2个输出token即可检测4-bit量化,AUC可超过0.999,同时将通信开销降低25-75%,相对于现有方法。我们发布与vLLM集成的开源代码,加速实际部署可验证推理。
引用
@article{arxiv.2511.20621,
title = {DiFR: Inference Verification Despite Nondeterminism},
author = {Adam Karvonen and Daniel Reuter and Roy Rinberg and Luke Marks and Adrià Garriga-Alonso and Keri Warr},
journal= {arXiv preprint arXiv:2511.20621},
year = {2025}
}