通过导师-学生多智能体互动提升LLM问题解决能力

人类认知发展不仅受 individual 努力影响，更受结构化社会互动的塑造，其中基于角色的交换，如导师与学习者之间的互动，能够实现单靠个体难以实现的解决方案。着眼于这些发展原则，我们提出问题：导师-学生多智能体系统能否通过推动大语言模型（LLM）超越现有框架内的能力，从而创造出协同效应？为此，我们采用自主编码问题领域，构建两个来自相同LLM的智能体，赋予其不同角色：学生智能体生成并迭代细化解决方案，而导师智能体在不获取 ground-truth答案的前提下提供结构化评估性反馈。在我们的框架（PETITE）中，我们旨在通过结构化其互动来从一个模型中提取更好的问题解决性能，而非依赖更强的监督模型或异构集团。在我们的方法中，在APPS编码基准测试中，对比Self-Consistency、Self-Refine、Multi-Agent Debate和Multi-Agent Review等SOTA方法，结果表明我们的模型在准确率上达到相似或更高的水平，同时消耗的 token数显著更少。这些结果表明，基于发展原则的角色差异化互动结构为通过结构化同伴式互动提升LLM问题解决能力提供了原则且高效的范式。