情境收敛性改善了对推理性问题的回答
计算与语言
2026-05-13 v1 信息检索
摘要
尽管大型语言模型(LLM)在开放域问答(QA)中被广泛使用,但其处理推理性问题的能力——即答案必须通过推导而非直接检索——仍受到 insufficient 探索。本研究探究了段落的结构与质量如何影响 LLM 在此类问题上的表现。我们关注收敛性,这一衡量句子(提示)消除错误答案效果的指标,作为构建段落的准则。使用 TriviaHG 数据集的子集,我们通过组合不同收敛水平的句子来构建段落,并评估了六种不同规模和架构的 LLM。我们的结果表明,由高收敛句子构建的段落在答案准确率上显著优于基于余弦相似性选择的段落,表明收敛性捕捉了推理性推理的有意义相关性。此外,按降序排列句子的收敛性略微改善了性能,这表明 LLM 倾向于优先考虑更早的信息丰富线索。这些发现突显了收敛性作为引导段落构建和分析 LLM 推理行为的实用信号。
引用
@article{arxiv.2605.12370,
title = {Context Convergence Improves Answering Inferential Questions},
author = {Jamshid Mozafari and Bhawna Piryani and Adam Jatowt},
journal= {arXiv preprint arXiv:2605.12370},
year = {2026}
}
备注
Accepted at SIGIR 2026