通过多智能体辩论提升语言模型的事实性与推理能力

近年来，大语言模型（LLMs）在语言生成、理解及少样本学习方面展现出卓越能力。大量研究探索了如何通过提示工程工具进一步提升其性能，涵盖验证、自一致性或中间草稿板等方法。本文提出一种互补方法以改进语言响应：多个语言模型实例提出并辩论各自的响应与推理过程，经多轮后达成共同最终答案。我们的发现表明，该方法在多项任务上显著增强了数学与策略推理能力。我们还证明，该方法提升了生成内容的事实有效性，减少了当代模型易产生的谬误回答与幻觉。我们的方法可直接应用于现有黑盒模型，且对所考察的所有任务使用相同流程与提示。总体而言，我们的发现表明，这种“心智社会”方法有望显著推进 LLM 的能力，并为语言生成与理解领域的进一步突破铺平道路。