中文

ML-Master:迈向通过探索与推理融合实现的AI-for-AI

人工智能 2025-06-23 v1 机器学习

摘要

随着AI能力向人类水平甚至超越人类水平发展,一个自然的转变正在出现:由AI驱动的发展变得比以人为中心的方法更高效。实现这一转变的一条有前景的途径在于AI-for-AI (AI4AI),它利用AI技术来自动化和优化AI系统本身的设计、训练和部署。尽管基于LLM的智能体已显示出实现AI4AI的潜力,但它们往往无法充分利用智能体在推理过程中探索解决方案时积累的经验,导致效率低下和性能欠佳。为解决这一局限,我们提出了ML-Master,一种新颖的AI4AI智能体,它通过采用一种选择性范围的记忆机制,无缝地整合了探索与推理。该方法使ML-Master能够高效地将来自并行解决方案轨迹的多样化见解与分析性推理相结合,在引导进一步探索的同时,避免用过多的上下文信息淹没智能体。我们在MLE-Bench上评估了ML-Master,它实现了29.3%的平均奖牌率,显著超越了现有方法,尤其是在中等复杂度的任务上,同时,在严格的12小时时间限制内(仅为先前基线方法所用24小时限制的一半)实现了这一优越性能。这些结果证明了ML-Master作为推进AI4AI的强大工具的潜力。

关键词

引用

@article{arxiv.2506.16499,
  title  = {ML-Master: Towards AI-for-AI via Integration of Exploration and Reasoning},
  author = {Zexi Liu and Yuzhu Cai and Xinyu Zhu and Yujie Zheng and Runkun Chen and Ying Wen and Yanfeng Wang and Weinan E and Siheng Chen},
  journal= {arXiv preprint arXiv:2506.16499},
  year   = {2025}
}