让我思考！一条长思维链可抵指数级多条短思维链

推理时计算已成为提升大型语言模型推理能力的一种极具前景的扩展轴。然而，尽管取得了令人瞩目的性能，推理时计算的最优分配仍不甚明了。一个核心问题是应优先考虑串行扩展（例如更长的思维链）还是并行扩展（例如跨多条短思维链的多数投票）。在本工作中，我们旨在通过证明存在串行扩展相比并行扩展具有指数级优势的推理设置，来阐明测试时扩展的图景。这些设置基于具有挑战性的图分布中的图连通性问题。我们通过在一系列语言模型上的综合实验验证了我们的理论发现，包括针对图连通性使用不同思维链策略从零开始训练的模型以及大型推理模型。