思考越多，偏见越深：推理模型中长度驱动的位置偏见

通常认为，思维链推理以及诸如 DeepSeek-R1 等经过推理微调的模型能够通过仔细思考来减少浅层启发式偏见。我们在多选题问答的位置偏见上对此进行了测试，却发现了不同的情况：在任何具备推理能力的模型中，单个问题的位置偏见随推理轨迹的长度而增加。在 MMLU、ARC-Challenge 和 GPQA 上的十三种推理模式配置（两个 R1 蒸馏的 7-8B 模型、两个以 CoT 提示的基础模型，以及 671B 的 DeepSeek-R1）中，有十二种在控制准确率后，表现出轨迹长度与位置偏见分数（PBS）之间的正偏相关，范围从 0.11 到 0.41（所有 p < 0.05）。所有十二种开放权重的推理模式配置在长度四分位数上均表现出 PBS 单调递增。截断干预提供了因果证据：从轨迹中较后位置恢复的续写越来越倾向于转向位置偏好的选项（对于 R1-Qwen-7B，在绝对位置桶中从 16% 增加到 32%）。在 671B 规模下，总体 PBS 降至 0.019，但长度效应仍在最长四分位数中显现（PBS = 0.071），这表明准确率只是限制了长度驱动偏见的表达，而非消除其底层机制。我们还发现，直接回答的位置偏见是一种具有不同特征的不同现象（在 Llama-Instruct-direct 中较强，在 Qwen-Instruct-direct 中较弱，且与轨迹长度不相关）：CoT 推理用长度累积的偏见取代了这种基线偏见。我们的结果表明，在多选题评估流程中，不应默认将具备推理能力的模型视为对顺序具有鲁棒性，并提供了一套诊断工具包（PBS、承诺变更点、有效切换、截断探针），用于审计推理模型中的位置偏见。