重新思考步骤化模型路由:面向表格推理的成本高效视角
计算与语言
2026-05-29 v1
摘要
大规模推理模型(LRM)在表格推理任务上取得强大的性能,但由于推理轨迹较长,推理成本较高。步骤化模型路由通过动态分配推理步骤到小型或大型模型来缓解此问题。然而,针对表格推理的步骤化模型路由仍未得到充分探索。通过经验分析,我们发现表格推理步骤包含两种具有不同不确定性分布的标记类型:基于表格结构的表格标记(如单元格值和标题),以及表示周围自然语言推理的文本标记。两种标记类型的不确定性与模型在下一推理步骤中出错的风险相关。然而,现有方法未能单独建模这两种标记类型,导致路由决策次优。为此,我们提出EcoTab,一种面向表格推理的步骤化路由框架。每个推理步骤中,EcoTab分别估计表格标记和文本标记的不确定性,将其映射到小模型的下一步骤失败风险,并将两种风险组合用于路由。多个表格推理基准的实验表明,EcoTab consistently 超过强大基线,在准确率和效率之间实现更好平衡。
引用
@article{arxiv.2605.29319,
title = {Rethinking Stepwise Model Routing: A Cost-Efficient Table Reasoning Perspective},
author = {Shenghao Ye and Yuxiang Wang and Yu Guo and Dong Jin and Shuangwu Chen and Jian Yang},
journal= {arXiv preprint arXiv:2605.29319},
year = {2026}
}
备注
17pages, 15 figures, submitted to EMNLP 2026