模型多样性而非方法决定推理策略
人工智能
2026-04-14 v1
摘要
用于语言模型推理的计算规模扩展需要在探索解决方案方法（广度）和优化有前景的解决方案（深度）之间分配预算。大多数方法隐式地在两者之间进行权衡，然而为什么某种权衡有效仍不清楚，并且在单一模型上的验证掩盖了模型本身的作用。我们认为，最优策略取决于模型的多样性概况，即概率质量在解决方案方法上的分布广度，并且必须在采用任何探索策略之前对此进行刻画。我们通过一个理论框架对此进行了形式化，该框架分解了推理不确定性，并推导出树式深度优化优于并行采样的条件。我们在 Qwen-3 4B 和 Olmo-3 7B 系列模型上验证了这一点，结果表明，对于低多样性的对齐模型，轻量级信号足以进行基于深度的优化，而对于高多样性的基础模型，其效用有限，我们假设后者需要更强的补偿来弥补较低的探索覆盖率。
引用
@article{arxiv.2604.10827,
title = {Your Model Diversity, Not Method, Determines Reasoning Strategy},
author = {Moulik Choraria and Argyrios Gerogiannis and Anirban Das and Supriyo Chakraborty and Berkcan Kapusuzoglu and Chia-Hsuan Lee and Kartik Balasubramaniam and Shi-Xiong Zhang and Sambit Sahu},
journal= {arXiv preprint arXiv:2604.10827},
year = {2026}
}