为机器学习工程智能体学习构思
计算与语言
2026-01-27 v1
摘要
现有的机器学习工程（MLE）智能体难以迭代优化其实现的算法以提高有效性。为了解决这个问题，我们引入了 MLE-Ideator，一个将构思与实现分离的双智能体框架。在我们的系统中，一个实现智能体可以向专门的构思者（Ideator）请求策略性帮助。我们展示了这种方法在两个方面的有效性。首先，在无训练设置中，我们的框架在 MLE-Bench 上显著优于仅实现的智能体基线。其次，我们证明了构思者可以通过强化学习（RL）进行训练，以产生更有效的想法。仅使用来自 10 个机器学习工程任务的 1K 训练样本，我们经过强化学习训练的 Qwen3-8B 构思者相比其未训练的对应版本实现了 11.5% 的相对改进，并超越了 Claude Sonnet 3.5。这些结果突显了一条训练用于科学发现的策略性人工智能系统的有前景的路径。
引用
@article{arxiv.2601.17596,
title = {Learning to Ideate for Machine Learning Engineering Agents},
author = {Yunxiang Zhang and Kang Zhou and Zhichao Xu and Kiran Ramnath and Yun Zhou and Sangmin Woo and Haibo Ding and Lin Lee Cheong},
journal= {arXiv preprint arXiv:2601.17596},
year = {2026}
}
备注
EACL 2026 main conference