PETS:面向高效测试时自洽的最优轨迹分配原则框架
机器学习
2026-02-20 v1 人工智能
摘要
测试时扩缩可通过聚合随机推理轨迹来提高模型性能。然而,在有限预算下实现高效的测试时自洽仍是一个未解决的挑战。我们引入 PETS (Principled and Efficient Test-Time Self-Consistency),通过优化框架开展原则性的轨迹分配研究。我们方法的核心是自洽率,即与无限预算多数投票一致性的度量。这种表述使基于预算的测试时分配在理论上具有依据且可进行严格分析。我们研究了离线和在线两种场景。在离线场景中,所有问题提前已知,我们通过将推理轨迹建模为 worker,将轨迹分配联系到经典且成熟的众包领域。这一视角使我们能够利用丰富的既有理论,获得理论保证并高效地基于多数投票的分配算法。在在线流式场景中,问题按顺序到达,必须即时进行分配,我们提出了受离线框架启发的新方法。我们的做法在保持强有力理论保证和计算效率的同时,根据问题难度自适应调整预算。实验表明,PETS 在均匀分配基准上 consistently 获胜。在 GPQA 上,PETS 在两种场景下均实现完美自洽,同时将采样预算较均匀分配降低最高可达 75%(离线)和 55%(在线)。代码地址: https://github.com/ZDCSlab/PETS。
引用
@article{arxiv.2602.16745,
title = {PETS: A Principled Framework Towards Optimal Trajectory Allocation for Efficient Test-Time Self-Consistency},
author = {Zhangyi Liu and Huaizhi Qu and Xiaowei Yin and He Sun and Yanjun Han and Tianlong Chen and Zhun Deng},
journal= {arXiv preprint arXiv:2602.16745},
year = {2026}
}