层次化推理模型是推理还是猜测？一种机械化分析
人工智能
2026-03-24 v2 机器学习
摘要
层次化推理模型(HRM)在各种推理任务上取得惊人的性能，显著优于基于大型语言模型的推理器。为了理解 HRM 的优势及其潜在失效模式，我们对其推理模式进行机械化研究，发现了三个令人惊讶的事实：(a) 极其简单的拼图会失败，例如 HRM 在仅有一个未知单元的拼图中会失败。我们将这一失败归因于违反固定点属性，这是 HRM 的一个基本假设。(b) 推理步骤中的“grokking”动态，即答案并非在所有步骤上均匀改善，而是存在一个临界推理步骤，使答案突然变为正确；(c) 存在多个固定点。HRM“猜测”第一个固定点，这可能是错误的，并且在一段时间内或永远被困于该点。所有这些发现都表明 HRM 似乎是在“猜测”而非“推理”。基于这种“猜测”观点，我们提出了三个策略来扩展 HRM 的猜测：数据增强(通过扩大猜测质量来实现), 输入扰动(通过利用推理随机性来扩展猜测数量), 以及模型引导(通过利用训练随机性来扩展猜测数量)。在实践方面，通过将所有方法结合，我们开发了增强型 HRM，使 Sudoku-Extreme 的准确率从 54.5% 提升至 96.9%。在科学层面，我们的分析为理解推理模型如何“推理”提供了新的见解。
引用
@article{arxiv.2601.10679,
title = {Are Your Reasoning Models Reasoning or Guessing? A Mechanistic Analysis of Hierarchical Reasoning Models},
author = {Zirui Ren and Ziming Liu},
journal= {arXiv preprint arXiv:2601.10679},
year = {2026}
}