通过动态模型插值实现系统1与系统2的协同

训练一个在直觉的系统1和深思熟虑的系统2之间适应的统一语言模型仍然具有挑战性，原因在于两者认知模式之间的干扰。近期研究因此致力于使系统2模型更加高效。然而，这些方法侧重于输出控制，限制了模型产生的内容。我们认为这一范式存在偏差：输出长度仅仅是模型认知配置的症状，而非根本原因。在本工作中，我们将重点转向能力控制，即调节模型如何思考而非它们产生什么。为此，我们利用现有的Instruct和Thinking检查点，通过动态参数插值实现，无需额外训练。我们的初步研究表明，线性插值产生一个凸的、单调的帕累托前沿，其基础是表示连续性和结构连通性。在此基础上，我们提出了DAMI（动态模型插值），一个通过估计查询特定的推理强度 $\lambda(q)$ 来配置认知深度的框架。对于基于训练的估计，我们开发了一种编码准确性和效率标准的偏好学习方法。对于零样本部署，我们引入了一种利用模型间认知差异的基于置信度的方法。在五个数学推理基准上的实验表明，DAMI在保持高效的同时实现了比Thinking模型更高的准确性，有效地结合了系统1的效率与系统2的推理深度。