中文

演化更深层的LLM思维

人工智能 2025-01-20 v1

摘要

我们探索了一种用于扩大大语言模型推理时间计算的演化搜索策略。该方法称为Mind Evolution,利用语言模型生成、重组和细化候选响应。该方法避免了在解决方案评估器可用时对推理问题进行形式化建模。我们控制推理成本,发现Mind Evolution在自然语言规划任务中显著优于其他推理策略,如Best-of-N和Sequential Revision。在TravelPlanner和Natural Plan基准测试中,Mind Evolution使用Gemini 1.5 Pro即可解决超过98%的问题实例,无需使用形式求解器。

关键词

引用

@article{arxiv.2501.09891,
  title  = {Evolving Deeper LLM Thinking},
  author = {Kuang-Huei Lee and Ian Fischer and Yueh-Hua Wu and Dave Marwood and Shumeet Baluja and Dale Schuurmans and Xinyun Chen},
  journal= {arXiv preprint arXiv:2501.09891},
  year   = {2025}
}