思维缓冲：基于大语言模型的思维增强推理
计算与语言
2024-10-15 v2
摘要
我们提出了思维缓冲（BoT），一种新颖且多功能的思维增强推理方法，用于提高大语言模型（LLM）的准确性、效率和鲁棒性。具体来说，我们提出了元缓冲，用于存储一系列信息丰富的高级思维，即思维模板，这些模板是从各种任务的问题解决过程中提炼出来的。然后，对于每个问题，我们检索相关的思维模板，并自适应地将其实例化为特定的推理结构，以进行高效推理。为了保证可扩展性和稳定性，我们进一步提出了缓冲管理器，用于动态更新元缓冲，从而随着更多任务的解决而增强元缓冲的容量。我们在10个具有挑战性的推理密集型任务上进行了广泛实验，并取得了比先前SOTA方法显著的性能提升：在24点游戏上提升11%，在几何形状上提升20%，在一步将杀上提升51%。进一步分析表明，我们的BoT具有优越的泛化能力和模型鲁棒性，同时平均仅需多查询提示方法（如思维树/图）12%的成本。值得注意的是，我们发现我们的Llama3-8B+BoT有潜力超越Llama3-70B模型。我们的项目地址：https://github.com/YangLing0818/buffer-of-thought-llm
引用
@article{arxiv.2406.04271,
title = {Buffer of Thoughts: Thought-Augmented Reasoning with Large Language Models},
author = {Ling Yang and Zhaochen Yu and Tianjun Zhang and Shiyi Cao and Minkai Xu and Wentao Zhang and Joseph E. Gonzalez and Bin Cui},
journal= {arXiv preprint arXiv:2406.04271},
year = {2024}
}
备注
NeurIPS 2024 Spotlight. Project: https://github.com/YangLing0818/buffer-of-thought-llm