测试时计算综述：从直觉推理到深思熟虑的推理

o1模型在复杂推理中的卓越表现表明，测试时计算扩展可以进一步释放模型的潜力，实现强大的系统2思维。然而，目前仍缺乏对测试时计算扩展的全面综述。我们将测试时计算的概念追溯到系统1模型。在系统1模型中，测试时计算通过参数更新、输入修改、表示编辑和输出校准来解决分布偏移并提高鲁棒性和泛化能力。在系统2模型中，它通过重复采样、自我纠正和树搜索来增强模型的推理能力，以解决复杂问题。我们根据从系统1到系统2思维的趋势组织本综述，强调了测试时计算在从系统1模型到弱系统2模型，再到强系统2模型的转变中的关键作用。我们还指出了高级主题和未来方向。