决策推理网络:基于预训练语言模型的信念跟踪推理的不确定性驱动范式
摘要
大型语言模型在语义启发式与决定性证据冲突时常常在逻辑推理上失败——我们将这种现象称为认知陷阱。为解决这一根本性限制,我们引入决策推理网络(Deliberative Reasoning Network, DRN),一种新范式,将逻辑推理从概率最大化重新框架为不确定性最小化。DRN不再询问“哪个答案最可能”,而是询问“哪个假设拥有最 internally consistent 的证据”。DRN通过显式跟踪信念状态并通过迭代证据合成过程,对竞争假设的表征不确定性实现内在可解释性。我们通过两种互补架构进行验证——一种体现核心不确定性最小化原则的专属判别模型,以及一种增强现有生成式 LLM 的轻量级验证模块。在LCR-1000基准测试上评估(该基准测试旨在暴露认知陷阱),专属DRN相较于标准基线实现了最高可达15.2%的提升。当作为参数高效验证器集成到Mistral-7B时,我们的混合系统在最具挑战性的问题上将准确率从20%提升至80%。关键的是,DRN在零样本泛化方面表现突出,在TruthfulQA上的性能提升了23.6%,无需额外训练,表明不确定性驱动的推理学习到了可迁移的推理原则。我们将DRN定位为构建更可信赖 AI 系统的基础性、可验证的System 2推理组件。
引用
@article{arxiv.2508.04339,
title = {Deliberative Reasoning Network: An Uncertainty-Driven Paradigm for Belief-Tracked Inference with Pretrained Language Models},
author = {Anran Xu and Jincheng Wang and Baigen Cai and Tao Wen},
journal= {arXiv preprint arXiv:2508.04339},
year = {2026}
}
备注
This submission represents an early exploratory draft and was uploaded prematurely. The authors have decided to withdraw it because the current version does not accurately reflect the intended scope and technical formulation of the work, and may be misleading if cited