演化更深层的LLM思维
人工智能
2025-01-20 v1
摘要
我们探索了一种用于扩大大语言模型推理时间计算的演化搜索策略。该方法称为Mind Evolution,利用语言模型生成、重组和细化候选响应。该方法避免了在解决方案评估器可用时对推理问题进行形式化建模。我们控制推理成本,发现Mind Evolution在自然语言规划任务中显著优于其他推理策略,如Best-of-N和Sequential Revision。在TravelPlanner和Natural Plan基准测试中,Mind Evolution使用Gemini 1.5 Pro即可解决超过98%的问题实例,无需使用形式求解器。
引用
@article{arxiv.2501.09891,
title = {Evolving Deeper LLM Thinking},
author = {Kuang-Huei Lee and Ian Fischer and Yueh-Hua Wu and Dave Marwood and Shumeet Baluja and Dale Schuurmans and Xinyun Chen},
journal= {arXiv preprint arXiv:2501.09891},
year = {2025}
}