逃离天价成本：用于多步推理的早停自洽性
计算与语言
2024-01-22 v1 人工智能
摘要
自洽性（SC）已成为思维链推理中广泛使用的解码策略。尽管在多种多步推理任务中带来了显著的性能提升，但它是一种高成本方法，需要以预设大小进行多次采样。在本文中，我们提出了一种简单且可扩展的采样过程，即早停自洽性（ESC），以在不牺牲性能的情况下大幅降低 SC 的成本。在此基础上，进一步推导了 ESC 的一个控制方案，以针对不同任务和模型动态选择性能与成本的平衡。为了证明 ESC 的有效性，我们在三类流行的推理任务（算术、常识和符号推理）上，对不同规模的语言模型进行了广泛实验。实证结果表明，ESC 在六个基准上大幅减少了思维链推理的平均采样次数，包括 MATH（-33.8%）、GSM8K（-80.1%）、StrategyQA（-76.8%）、CommonsenseQA（-78.5%）、Coin Flip（-84.2%）和 Last Letters（-67.4%），同时取得了相当的性能。
引用
@article{arxiv.2401.10480,
title = {Escape Sky-high Cost: Early-stopping Self-Consistency for Multi-step Reasoning},
author = {Yiwei Li and Peiwen Yuan and Shaoxiong Feng and Boyuan Pan and Xinglin Wang and Bin Sun and Heda Wang and Kan Li},
journal= {arXiv preprint arXiv:2401.10480},
year = {2024}
}
备注
ICLR 2024