机器学习中的 AI 研究代理：MLE-bench 上的搜索、探索与泛化
人工智能
2025-11-05 v2 机器学习
摘要
AI 研究代理正在显示出加速科学进步通过自动化设计、实现和训练机器学习模型的巨大潜力。我们聚焦于提高在 MLE-bench 上的表现的方法，该基准让代理在 Kaggle 竞赛中解决实际机器学习问题。我们将 AI 研究代理 formalization 为搜索策略，以遍历候选解的空间，迭代地使用算子修改它们。通过设计和系统性地变异不同的算子集合和搜索策略（Greedy、MCTS、Evolutionary），我们展示了它们的相互作用对于实现高性能至关重要。我们最佳的搜索策略与算子集合组合，在 MLE-bench lite 上实现了最先进的结果，将实现 Kaggle 奖项的成功率从 39.6% 提升至 47.7%。我们的研究强调，在推进自动机器学习方面，同时考虑搜索策略、算子设计和评估方法的重要性。
引用
@article{arxiv.2507.02554,
title = {AI Research Agents for Machine Learning: Search, Exploration, and Generalization in MLE-bench},
author = {Edan Toledo and Karen Hambardzumyan and Martin Josifoski and Rishi Hazra and Nicolas Baldwin and Alexis Audran-Reiss and Michael Kuchnik and Despoina Magka and Minqi Jiang and Alisia Maria Lupidi and Andrei Lupu and Roberta Raileanu and Kelvin Niu and Tatiana Shavrina and Jean-Christophe Gagnon-Audet and Michael Shvartsman and Shagun Sodhani and Alexander H. Miller and Abhishek Charnalia and Derek Dunfield and Carole-Jean Wu and Pontus Stenetorp and Nicola Cancedda and Jakob Nicolaus Foerster and Yoram Bachrach},
journal= {arXiv preprint arXiv:2507.02554},
year = {2025}
}
备注
Code: https://github.com/facebookresearch/aira-dojo