理解大语言模型在自动化启发式设计中演化搜索的重要性
神经与进化计算
2024-07-16 v1 人工智能
摘要
自动化启发式设计（AHD）因其潜在自动开发有效启发式方法的能力而受到广泛关注。近期大型语言模型（LLM）的出现为AHD开辟了新的道路，初期工作侧重于将AHD框架化为演化程序搜索（EPS）问题。然而，由于基准设置不一致、缺乏充分的基线方法以及对各组成部分细致分析不足，关于将LLM与搜索策略相集成的必要性以及现有LLM-based EPS方法所取得的真实进展尚未得到充分论证。本文通过构建包含四种LLM-based EPS方法和四个AHD问题的大规模基准测试，覆盖九种LLM和五次独立运行，旨在回答上述研究问题。我们的大量实验提供了有意义的见解，为LLM-based AHD方法中演化搜索的重要性提供了实证依据，同时也推动了未来EPS算法开发的进展。为促进可访问性和可重复性，我们已完全开源了基准测试及相应结果。
引用
@article{arxiv.2407.10873,
title = {Understanding the Importance of Evolutionary Search in Automated Heuristic Design with Large Language Models},
author = {Rui Zhang and Fei Liu and Xi Lin and Zhenkun Wang and Zhichao Lu and Qingfu Zhang},
journal= {arXiv preprint arXiv:2407.10873},
year = {2024}
}
备注
Accepted by the 18th International Conference on Parallel Problem Solving From Nature (PPSN 2024)