LLaMEA-SAGE：基于可解释人工智能的结构反馈引导自动算法设计

大语言模型已能够通过直接从自然语言提示生成优化算法，使自动算法设计（AAD）成为可能。尽管 LLaMEA 等进化框架在算法设计空间中展现出强大的探索能力，但其搜索动态完全由适应度反馈驱动，导致生成的代码中大量信息未被利用。我们提出了一种引导 AAD 的机制，该机制基于在已评估解档案上学习的代理模型，从生成算法的抽象语法树中提取图论和复杂度特征来构建反馈。利用可解释人工智能技术，我们识别出对性能有显著影响的特征，并将其转化为自然语言变异指令，在不限制表达能力的前提下引导后续的 LLM 代码生成。我们提出 LLaMEA-SAGE，将这种基于特征的引导集成到 LLaMEA 中，并在多个基准测试上进行了评估。我们表明，在小规模对照实验中，所提出的结构化引导比原始 LLaMEA 更快地达到了相同的性能。在使用 GECCO-MA-BBOB 竞赛中 MA-BBOB 套件进行的大规模实验中，我们的方法与最先进的 AAD 方法相比取得了更优的性能。这些结果表明，从代码中提取的信号可以有效引导 LLM 驱动的算法进化，弥合了自动算法设计中代码结构与人类可理解性能反馈之间的差距。