推理模型中的流体表示
人工智能
2026-02-05 v1
摘要
产生长链思维的推理语言模型在抽象问题上显著优于非推理语言模型，但导致这种卓越性能的内部模型机制仍不完全了解。我们对QwQ-32B——这一专为生成广泛推理痕迹而训练的模型——如何处理抽象结构信息进行了机制分析。在谜题积木世界（Mystery Blocksworld）——一个语义被混淆的规划领域中，我们发现QwQ-32B在推理过程中逐步改进了其对动作和概念的内部表示。该模型发展出关注结构而非具体动作名称的抽象编码。通过操纵实验，我们确立了这些适应性改进问题解决的因果证据：注入来自成功推理的精炼表示可提升准确率，而符号表示可用以用最少的性能损失取代许多被混淆的编码。我们发现推理模型性能的一个因素是在情境中细化token表示，这我们称之为流体推理表示。
引用
@article{arxiv.2602.04843,
title = {Fluid Representations in Reasoning Models},
author = {Dmitrii Kharlapenko and Alessandro Stolfo and Arthur Conmy and Mrinmaya Sachan and Zhijing Jin},
journal= {arXiv preprint arXiv:2602.04843},
year = {2026}
}