双维一致性:在自适应推理扩张中平衡预算与质量
人工智能
2026-05-15 v1
摘要
大型语言模型(LLM)在推理方面展现出惊人的能力。然而,通过推理时间扩张来发挥其潜能面临着采样预算与推理质量之间的权衡挑战。当前策略仍不够高效,因为它们通常将采样宽度和深度视为正交目标,其中宽度共识方法风险加剧幻觉,而深度修剪机制则过早地截断复杂且有效的推理链。因此,我们提出了双维一致性(Dual-Dimensional Consistency, DDC),一个统一的框架,将路径质量与自适应终止相连。通过将置信加权贝叶斯协议与趋势感知分层修剪相耦合,我们的方法确保计算资源集中在高质量推理路径上,过滤幻觉同时加速共识。跨五个基准的评估表明,该方法在保持或超过强基准准确性的同时,显著减少了token消耗。
引用
@article{arxiv.2605.15100,
title = {Dual-Dimensional Consistency: Balancing Budget and Quality in Adaptive Inference-Time Scaling},
author = {Rongman Xu and Yifei Li and Tianzhe Zhao and Yanrui Wu and Bo Li and Hang Yan},
journal= {arXiv preprint arXiv:2605.15100},
year = {2026}
}