大规模推理模型的条件性能保证
人工智能
2026-02-02 v1 统计理论
统计理论
摘要
大规模推理模型通过扩展链式思考推理显示出强大的性能,但其计算成本仍然很大。概率近似正确(PAC)推理通过自适应切换思考与非思考模型来实现高效推理,但该保证仅适用于边际情况,不提供精确的条件覆盖。我们提出G-PAC推理框架,在输入空间分区的基础上提供PAC风格的保证。我们发展了两种实现:针对已知组结构的G-PAC推理和针对未知分组的聚类式PAC(C-PAC)推理。我们证明了G-PAC和C-PAC均实现组条件风险控制,并且在异构设置下,分组可严格改善边际PAC推理的效率。我们的实验在多样化推理基准测试上表明,G-PAC和C-PAC成功实现了组条件风险控制,同时保持了显著的计算节省。
引用
@article{arxiv.2601.22790,
title = {Conditional Performance Guarantee for Large Reasoning Models},
author = {Jianguo Huang and Hao Zeng and Bingyi Jing and Hongxin Wei and Bo An},
journal= {arXiv preprint arXiv:2601.22790},
year = {2026}
}