具有相互依赖生成的广义并行扩展
人工智能
2026-02-18 v3 机器学习
摘要
并行 LLM 推理扩展涉及为单个输入提示抽取 个响应。然而，这 个并行响应倾向于彼此独立生成，划分计算资源，导致一个生成中可能有用信息未被其他生成所利用。这与响应长度扩展不同，后者在所有后续步骤中利用过去的计算。为了获得更高质量的响应及响应集，我们提出了 Bridge 方法，通过重新思考批处理 LLM 隐藏状态为整体张量而非独立切片，来生成并行中的相互依赖响应。仅引入少量新参数 (2.8%-5.1%)，Bridge 从强化学习中获得的可验证奖励相关均准确性提升最高可达 39%，并提升正确响应的一致性。经过一次训练，Bridge 可扩展到任意生成宽度，所有表现均优于独立生成，解锁了一种更通用的并行扩展模式，有效利用序列之间信息，兼容任何后生成聚合技术。
引用
@article{arxiv.2510.01143,
title = {Generalized Parallel Scaling with Interdependent Generations},
author = {Harry Dong and David Brandfonbrener and Eryk Helenowski and Yun He and Mrinal Kumar and Han Fang and Yuejie Chi and Karthik Abinav Sankararaman},
journal= {arXiv preprint arXiv:2510.01143},
year = {2026}
}