通过规划实现高效的大语言模型协作
人工智能
2026-05-12 v4
摘要
近期，大语言模型（LLMs）在从简单到复杂的各类任务中均展现出强劲性能。然而，尽管大型模型在多样化任务上取得了显著成果，但其推理成本高昂，使得频繁使用在许多应用中并不现实。相比之下，小型模型通常可免费获取且易于本地部署，但在复杂任务上的性能仍然有限。这种权衡引发了一个自然的问题：小型模型和大型模型如何高效协作以结合各自的互补优势？为弥合这一差距，我们提出了 COPE，一个测试时协作框架。规划模型首先生成一个计划，作为轻量级中间表示来引导下游执行模型。小型模型和大型模型轮流充当规划器和执行器，通过多阶段级联交换计划以协作求解任务。通过在数学推理、代码生成、开放性任务和智能体任务等基准上的全面实验，我们证明 COPE 达到了与大型专有模型相当的性能，同时大幅降低了推理 API 成本。这些结果表明规划作为一种有效的先验，可用于实现成本高效的推理。
引用
@article{arxiv.2506.11578,
title = {Efficient LLM Collaboration via Planning},
author = {Byeongchan Lee and Jonghoon Lee and Dongyoung Kim and Jaehyung Kim and Kyungjoon Park and Dongjun Lee and Jinwoo Shin},
journal= {arXiv preprint arXiv:2506.11578},
year = {2026}
}