思维多样性提升大语言模型的推理能力
计算与语言
2024-02-27 v2 人工智能
摘要
大语言模型（LLMs）在需要复杂推理的场景中表现不佳已有文献记载。然而，指示模型将问题拆解为更小的推理步骤，或通过修改解码步骤集成多种生成结果可提升性能。这些方法假定输入提示固定，并期望解码策略引入集成所需的多样性。本文探讨如何创建并利用输入提示的变体作为一种思维多样性手段。我们提出一种方法，通过向 LLM 征询反馈以构思契合问题的求解思路，从而自动提升提示多样性。随后我们在方法 DIVSE（DIVerse reasoning path Self-Ensemble，多样推理路径自集成）中跨多次推理调用集成多样提示，或在单次推理调用内使用多样思路；后者称为 IDIV-SE（In-call DIVerse reasoning path Self-Ensemble，调用内多样推理路径自集成）。除我们的方法优于既往工作外，DIV-SE（尤其是）在具挑战性的规划与图着色基准上推进了最优（SOTA）性能。我们的结果改进了精度-成本权衡的帕累托前沿。
引用
@article{arxiv.2310.07088,
title = {Diversity of Thought Improves Reasoning Abilities of LLMs},
author = {Ranjita Naik and Varun Chandrasekaran and Mert Yuksekgonul and Hamid Palangi and Besmira Nushi},
journal= {arXiv preprint arXiv:2310.07088},
year = {2024}
}