Truth-Aware Decoding：基于程序逻辑的事实感知解码
人工智能
2025-10-10 v1 计算机科学中的逻辑
摘要
本文介绍了Truth-Aware Decoding（TAD），这是一种以验证为导向的解码方案，将神经语言生成与知识库对齐。TAD融入了概率程序语义的传统，为现代指令微调系统增添了一个语义监护棱镜，在解码时运行。我们的贡献包括四方面：（i）一种基于约束的语义，将oracle过滤表述为程序逻辑判断；（ii）一种证明，证明在严格且完备的监护棱镜下，贪婪选择拥有局部似然优势（Theorem 2.7）；（iii）一种熵式不变式，用于通过知识感知的安全质量量化事实风险；（iv）一种多主体操作微积分，搭配经验证实的Lean构件来认证实现行为。数值与算法案例研究表明，所得监护棱镜在不牺牲吞吐量的前提下减少了幻觉现象，为大规模经验模型与形式验证之间搭建了实用性桥梁。
引用
@article{arxiv.2510.07331,
title = {Truth-Aware Decoding: A Program-Logic Approach to Factual Language Generation},
author = {Faruk Alpay and Hamdi Alakkad},
journal= {arXiv preprint arXiv:2510.07331},
year = {2025}
}
备注
18 pages, Lean code provided