ArchPilot:一种基于代理的多智能体机器学习工程方法
人工智能
2025-11-07 v1
摘要
最近的基于大语言模型的代理在自动化机器学习工程方面展现出强大的能力。然而,它们依赖于重复的完整训练运行来评估候选解决方案,导致计算开销大、难以扩展到大搜索空间以及迭代周期慢。为此,本文引入 ArchPilot,一个集成架构生成、代理评估和自适应搜索于统一框架的多智能体系统。ArchPilot 由三个专门的代理构成:一个编排代理,采用受蒙特卡洛树搜索 (MCTS) 启发的新型算法带有重启机制,管理先前候选人的记忆;一个生成代理,迭代生成、改进和调试候选架构;一个评估代理,执行代理训练运行、生成和优化代理函数,并将代理得分整合为一个受信度感知的绩效指标。这种多智能体协作使 ArchPilot 能够在对昂贵的完整训练运行依赖最小化的情况下优先考虑高潜力候选人,在有限预算下实现高效的机器学习工程。在 MLE-Bench 上的实验表明,ArchPilot 在 AIDE 和 ML-Master 等最先进基准方法上均取得了优异性能,验证了多智能体系统的有效性。
引用
@article{arxiv.2511.03985,
title = {ArchPilot: A Proxy-Guided Multi-Agent Approach for Machine Learning Engineering},
author = {Zhuowen Yuan and Tao Liu and Yang Yang and Yang Wang and Feng Qi and Kaushik Rangadurai and Bo Li and Shuang Yang},
journal= {arXiv preprint arXiv:2511.03985},
year = {2025}
}