大型语言模型辅助自动算法搜索的适应性 landscapes
人工智能
2025-08-28 v3 神经与进化计算
摘要
在演化或其他迭代搜索框架中使用大型语言模型(LLM)已在自动算法设计中显示出巨大的潜力。然而,对于理解其搜索行为至关重要的底层适应性 landscapes仍未得到充分探索。本文采用图基方法说明和分析LLM辅助算法搜索(LAS)的适应性 landscapes,其中节点代表算法,边表示它们之间的转换。我们在六个算法设计任务和六个常用LLM上进行了广泛评估。我们的发现表明,LAS landscapes在组合优化任务中高度多模态和颤动,特别是在不同任务和LLM之间存在显著的结构差异。此外,我们采用四种不同的方法来衡量算法相似性,并研究其与算法性能和算子行为的相关性。这些见解不仅深化了我们对LAS landscapes的理解,也为设计更有效的LAS方法提供了实用见解。
关键词
引用
@article{arxiv.2504.19636,
title = {Fitness Landscape of Large Language Model-Assisted Automated Algorithm Search},
author = {Fei Liu and Qingfu Zhang and Jialong Shi and Xialiang Tong and Kun Mao and Mingxuan Yuan},
journal= {arXiv preprint arXiv:2504.19636},
year = {2025}
}