中文

进化搜索中的计算分配:从深度-广度到多臂赌博机

计算与语言 2026-05-29 v1 人工智能 机器学习 神经与进化计算

摘要

LLM引导的进化搜索(Evolve系统)已在数学和组合任务上达到最先进的结果,但大多数现有系统仅报告多次运行中的最佳结果,未记录运行间的分布情况。我们询问在固定的LLM调用预算下,如何分配资源,以及单次运行是否可靠地达到报告的数值。通过遍历深度-广度网格(覆盖五个模型和三个任务),我们识别出两个经验规律:沿着适应度-计算量包线,其中能力排序在有效FLOPs上基本折叠,以及深度-广度拟合呈双线性形式,具有任务相关性;两者都受模型-任务能力的制约。针对这些规律,我们提出了BaSE(基于多臂赌博机的自适应进化),一种在平行轨迹之间分配LLM调用的多臂赌博机。在不改变模型、提示词或评估器的前提下,BaSE在8个(模型、任务)组合单元上均比最强的岛屿协议基线提高了12.3%的平均适应度,最大收益出现在高方差设置上:仅通过分配带来可靠性提升。

关键词

引用

@article{arxiv.2605.29268,
  title  = {Compute Allocation in Evolutionary Search: From Depth-Breadth to Multi-Armed Bandits},
  author = {Sixue Xing and Haoyu He and Kerui Wu and Zhuo Yang and Haozheng Luo and Tianfan Fu and Aarthy Nagarajan},
  journal= {arXiv preprint arXiv:2605.29268},
  year   = {2026}
}