是否值得升级？LLM 级联的数学决策特征

模型级联（cascade）指的是低成本大语言模型（LLM）在置信度不足时 defer 到高成本模型，以此在部署时的成本与质量之间取得平衡。现有方法大体将 deferral 阈值（deferment threshold）视为经验超参数，对模型池上成本-质量前沿的几何结构缺乏指导。我们构建基于约束优化与对偶性的数学决策框架。对于两个模型的级联，证明了在置信度支持的降低收益区域，成本-质量前沿呈分段凹函数，预算约束与质量约束形式之间的影子价格（shadow price）呈互为倒数关系。给定 k 个模型的池子，我们刻画了确定性两个模型阈值级联可实现的前沿，其形式为所有 \binom{k}{2} 两两级联的点态包络（pointwise envelope），其中 optimal pair 变化的切换点即为前沿的转折点。对于 k 模型级联，我们推导了一阶条件，即单一影子价格在阶段边界处使每个阶段的质量-成本比相等。我们在五个基准测试（MATH、MMLU、TriviaQA、SimpleQA、LiveCodeBench）上验证了该框架，涵盖来自五个供应商的八个模型。在确定性阈值级联类别中，完整的固定链（full fixed chain）落后于两两包络，而优化的子序列级联（optimized subsequence cascades）在实际意义上的 held-out 增益上也未能超过它。轻量级预生成路由器在四个五个数据集上超越了最佳级联策略，这主要是因为它避免了廉价模型在被送往大模型前的生成成本，而非更强的路由信号。这些结果表明，级联性能主要受结构性成本限制，因为级联在做出升级决策前就要支付廉价模型的费用，而非中间阶段不足。