桥接推理模型在信息不足情境下的检测-放弃鸿沟
人工智能
2026-05-28 v1
摘要
我们指出大型推理模型在信息不足情境下的问题：模型可能识别出问题表明不完整，却仍继续推理并生成不受支持的最终答案，而非放弃。我们将这种不匹配 formalize 为检测-放弃鸿沟，即检测到的不足未转化为最终的放弃。在高风险领域如医疗 AI 中，基于不完整证据的答案比拒绝更具危险性。为此，我们提出 Judge-Then-Solve (JTS)，一个针对轨迹级别推理控制的框架，训练模型在解题生成前作出明确的可解答承诺。JTS 将放弃视为控制决策：模型要么继续求解，要么在作出可解答判断后立即终止。我们通过监督式预热和缺失前提强化学习实现该策略，辅以一致性和长度塑形奖励。实验表明，JTS 在密集模型和混合专家 (MoE) 推理模型上显著提升可靠放弃能力，推动 Abstention@Detection (A@D) 接近饱和，表明模型不仅检测到缺失信息，还能据此行动。在作出可解答判断后立即终止不可解答轨迹，JTS 减少了不必要的推理，提高了在继续细心推理将放大不受支持假设时的推理效率。我们还观察到，缺失前提训练会改变难题但可解答问题上的推理行为，减少不建设性的自省。这些结果表明，在信息不足情境下进行放弃，是部署安全高效推理模型的关键推理控制方式。
引用
@article{arxiv.2605.28070,
title = {Bridging the Detection-to-Abstention Gap in Reasoning Models under Insufficient Information},
author = {Renjie Gu and Jiaxu Li and Yihao Wang and Yun Yue and Hansong Xiao and Yefei Chen and Yuan Wang and Chunxiao Guo and Pei Wei and Jinjie Gu and Yixin Cao},
journal= {arXiv preprint arXiv:2605.28070},
year = {2026}
}