通过潜在脉冲引导缓解大规模推理模型中的认知惯性
机器学习
2026-02-02 v1
摘要
虽然大规模推理模型(Large Reasoning Models, LRMs)通过扩大推理计算量已取得显著性能,但常常 suffer 从认知惯性(Cognitive Inertia)问题,这种问题表现为运动惯性的过度思考或方向惯性的推理僵化。现有检测方法通常依赖自我纠正标记等表面文本启发式方法,往往无法捕捉模型内部未言明的冲突。为此,我们提出了STARS(Spike-Triggered Adaptive Reasoning Steering,脉冲触发自适应推理引导),一个旨在通过监控潜在动态来纠正认知惯性的训练-free框架。STARS通过检测隐藏状态中显著的L2距离脉冲来识别认知关键点——推理转换的关键时刻。检测到后,框架采用几何轨迹分析来诊断转换的结构性质,并注入状态感知语言线索以实时引导模型。我们的实验在多样化基准测试中确认,STARS能够高效地减少冗余循环,同时通过自适应纠正错误轨迹来提高准确率。STARS提供了一个无需额外微调即可优化LRM推理过程的稳健、无监督机制。
引用
@article{arxiv.2601.22484,
title = {Mitigating Cognitive Inertia in Large Reasoning Models via Latent Spike Steering},
author = {Seojin Lee and ByeongJeong Kim and Hwanhee Lee},
journal= {arXiv preprint arXiv:2601.22484},
year = {2026}
}
备注
21 pages, 6 figures