LLM Test-Time Compute via Search：任务、LLM剖析、搜索算法及相关框架综述

Xinzhe Li

LLM Test-Time Compute via Search：任务、LLM剖析、搜索算法及相关框架综述

人工智能 2025-04-29 v4

作者: Xinzhe Li

摘要

LLM test-time compute（或LLM推理）通过搜索已成为一个具有快速发展趋势的研究领域。然而，当前框架往往从三个关键方面采用不同视角：任务定义、LLM剖析和搜索程序，这使得直接比较困难。此外，所采用的数据搜索算法常与标准实现有所差异，其具体特征也未得到充分阐述。本综述旨在提供对现有LIS框架的全面而统一的技术性综述。具体而言，我们将任务定义统一归入马尔可夫决策过程（MDP），并提供LLM剖析和搜索程序的模块化定义。这些定义使得对各种LLM推理框架进行精确比较成为可能，同时突出它们与传统搜索算法的差异。我们还讨论了这些方法的适用性、性能和效率。关于论文的持续更新，请参阅我们的GitHub仓库：https://github.com/xinzhel/LLM-Search。

关键词

LLM推理搜索算法马尔可夫决策过程框架综述测试时计算

引用

@article{arxiv.2501.10069,
  title  = {A Survey on LLM Test-Time Compute via Search: Tasks, LLM Profiling, Search Algorithms, and Relevant Frameworks},
  author = {Xinzhe Li},
  journal= {arXiv preprint arXiv:2501.10069},
  year   = {2025}
}

备注

TMLR (camera-ready). Details on https://openreview.net/forum?id=x9VQFjtOPS

LLM Test-Time Compute via Search：任务、LLM剖析、搜索算法及相关框架综述

摘要

关键词

引用

备注

相关论文