包含思考：通过净化决策空间缓解偏好不稳定性
计算与语言
2026-04-08 v1 人工智能
摘要
多选题（MCQs）广泛用于评估大型语言模型（LLMs），但LLMs仍然容易受到合理干扰项的影响。这种情况常常会将注意力引向不相关的选项，导致在正确答案和错误答案之间产生不稳定的振荡。在本文中，我们提出了包含思考（Inclusion-of-Thoughts, IoT）方法，这是一种渐进式自我过滤策略，旨在缓解这种认知负荷（即在干扰项存在下模型偏好不稳定的现象），并使模型能够更有效地专注于合理答案。该方法通过仅使用合理选项选择来重构MCQs，提供受控环境以检验比较判断，从而揭示模型在扰动下的内部推理稳定性。通过明确记录此过滤过程，IoT还提高了模型决策的透明度和可解释性。大量实证评估表明，IoT在广泛的算术、常识推理和教育基准测试中显著提升了链式思维性能，同时计算开销最小。
引用
@article{arxiv.2604.04944,
title = {Inclusion-of-Thoughts: Mitigating Preference Instability via Purifying the Decision Space},
author = {Mohammad Reza Ghasemi Madani and Soyeon Caren Han and Shuo Yang and Jey Han Lau},
journal= {arXiv preprint arXiv:2604.04944},
year = {2026}
}