面向大规模推理模型的能源感知路由
人工智能
2026-04-28 v2 信息论
系统与控制
系统与控制
math.IT
摘要
大规模推理模型（LRMs）的推理能耗根据所采用的模型及推理深度呈现异构性。为降低能耗，需选择合适的LRM并以恰当方式运行。因此，依赖于不同单个LRM的任务分发系统性能取决于平均能源配置与随机波动之间的平衡。关键运行区间在于：既不存在系统性浪费的辅助能源，也不存在系统性浪费的基线能源。增加基线供给会导致持续超供及基线能源浪费，而降低供给则引发持续依赖辅助能源。然而在该区间，性能仍受波动限制，因此我们发展了二阶表征以获得进一步洞见。此处，性能由如何在时间、模型和执行选择之间吸收波动所决定。此视角突显了方差感知路由与分发作为原则设计轴，为开发能源感知模型路由策略提供了理论基础。我们表征了基于LRM训练计算和推理计算比例定律进行分发的路由行为。
引用
@article{arxiv.2601.00823,
title = {Energy-Aware Routing to Large Reasoning Models},
author = {Austin R. Ellis-Mohr and Max Hartman and Lav R. Varshney},
journal= {arXiv preprint arXiv:2601.00823},
year = {2026}
}