中文

教导大语言模型何时不知:学习用于事前推理的时间批判

人工智能 2026-05-15 v1

摘要

大语言模型(LLMs)在时间截止限制下经常无法进行推理:当被提示从早期时间的立场回答时,它们会利用后来才可获得的知识。我们通过事前推理的视角来研究这种失败,即模型必须完全依赖于在截止时间之前可知的信息。通过对提示级别干预的系统性分析,我们发现时间泄漏对截止时间的表述和指令位置高度敏感:显式的截止声明优于隐式的历史框架,而前缀约束比后缀约束更能有效减少泄漏。这些发现表明,提示可以引导模型进入时间框架,但并未赋予它们验证回答是否在时间上被允许的能力。我们进一步指出,监督微调是不够的,因为事前正确性不是回答的内在属性,而是回答与截止时间之间的一种关系。为了弥补这一差距,我们提出了 TCFT,一个时间批判微调框架,训练模型获得具有截止时间感知的时间验证能力。给定一个查询、一个截止时间和一个候选回答,TCFT 教导模型识别截止后的泄漏,解释时间边界违规,并判断时间可容许性。使用 Qwen2.5-7B-Instruct 和 Qwen2.5-14B-Instruct 的实验表明,TCFT 始终优于提示和 SFT 基线,分别将平均泄漏降低了 41.89 和 37.79 个百分点。

关键词

引用

@article{arxiv.2605.14636,
  title  = {Teaching Large Language Models When Not to Know: Learning Temporal Critique for Ex-Ante Reasoning},
  author = {Chenlu Ding and Jiancan Wu and Yanchen Luo and Zheyuan Liu and Yancheng Yuan and Xiang Wang},
  journal= {arXiv preprint arXiv:2605.14636},
  year   = {2026}
}