中文

KompeteAI:用于机器学习问题端到端管道生成的加速自主多智能体系统

人工智能 2026-04-24 v3

摘要

最近出现的基于大型语言模型(LLM)的AutoML系统展示了令人印象深刻的能力,但面临显著局限,如受限的探索策略和严重的执行瓶颈。探索受限于单次方法缺乏多样性,以及蒙特卡洛树搜索树(MCTS)方法未能重组强部分解的问题。执行瓶颈源于漫长的代码验证周期,抑制了迭代细化。为克服这些挑战,我们引入KompeteAI,一种具有动态解空间探索的新型AutoML框架。不同于以前的MCTS方法将想法孤立处理,KompeteAI引入了合并阶段,将顶级候选方案组合起来。我们进一步通过整合检索增强生成(RAG),从Kaggle笔记本和arXiv论文中检索想法,以融合真实世界策略。KompeteAI还通过预测评分模型和加速调试方法,解决了执行瓶颈问题,利用早期阶段指标评估解决方案潜力,避免高成本的完整代码执行。该方法加快了管道评估速度6.9倍。KompeteAI在主要AutoML基准(MLE-Bench)上比领先方法(如RD-agent、AIDE和Ml-Master)平均提高3%。此外,我们提出Kompete-bench以解决MLE-Bench的局限性,KompeteAI也在该基准上实现了最新成果。

关键词

引用

@article{arxiv.2508.10177,
  title  = {KompeteAI: Accelerated Autonomous Multi-Agent System for End-to-End Pipeline Generation for Machine Learning Problems},
  author = {Stepan Kulibaba and Artem Dzhalilov and Roman Pakhomov and Oleg Svidchenko and Alexander Gasnikov and Aleksei Shpilman},
  journal= {arXiv preprint arXiv:2508.10177},
  year   = {2026}
}