BARREL：面向事实可靠的边界感知推理
人工智能
2026-02-26 v2 计算与语言
机器学习
摘要
近期大型推理模型（Large Reasoning Models, LRMs）在数学和逻辑推理方面展现出惊人的能力，但当前 LRMs 很少承认无知或回答“我不知道”。相反，它们往往会在显得不确定的信心下提供错误答案，这引发了对其事实可靠性的担忧。本文我们识别了两种由过度思考导致的异常推理模式：最后分钟猜测和二思 spiraling。为此，我们提出 BARREL—a 新型框架，促进简洁且边界感知的事实推理。我们的实验表明，BARREL 训练将 DeepSeek-R1-Distill-Llama-8B 的可靠性从 39.33% 提升至 61.48%，而仍可实现与使用 R1 生成的推理数据微调的模型相当的准确率。这一结果表明，我们的试点研究为构建更可靠且事实可信的 System 2 LRMs 指明了方向。
引用
@article{arxiv.2505.13529,
title = {BARREL: Boundary-Aware Reasoning for Factual and Reliable LRMs},
author = {Junxiao Yang and Jinzhe Tu and Haoran Liu and Xiaoce Wang and Chujie Zheng and Zhexin Zhang and Shiyao Cui and Caishun Chen and Tiantian He and Hongning Wang and Yew-Soon Ong and Minlie Huang},
journal= {arXiv preprint arXiv:2505.13529},
year = {2026}
}