Auto-Sklearn 2.0：基于元学习的免人工 AutoML
机器学习
2022-10-05 v3 机器学习
摘要
自动化机器学习（AutoML）以设计机器学习流水线的繁琐任务支援从业者与研究者，且近期取得实质性成功。本文中，我们受赢得第二届 ChaLearn AutoML 挑战赛的提交方案启发，引入新的 AutoML 方法。我们开发了 PoSH Auto-sklearn，其通过一种新颖、简单且无元特征的元学习技术，并采用成功的 bandit 策略进行预算分配，使 AutoML 系统能在严苛时间限制下于大数据集上良好工作。然而，PoSH Auto-sklearn 引入了更多运行 AutoML 的方式，可能使用户更难正确配置。因此，我们更进一步研究 AutoML 自身的设计空间，提出迈向真正免人工 AutoML 的解决方案。这些变更共同催生了下一代 AutoML 系统 Auto-sklearn 2.0。我们在 39 个 AutoML 基准数据集上的广泛实验研究中验证了这些增补的改进。文末我们与其他流行 AutoML 框架及 Auto-sklearn 1.0 比较，将相对误差至多降低 4.5 倍，并在 10 分钟内取得显著优于 Auto-sklearn 1.0 一小时所达的性能。
引用
@article{arxiv.2007.04074,
title = {Auto-Sklearn 2.0: Hands-free AutoML via Meta-Learning},
author = {Matthias Feurer and Katharina Eggensperger and Stefan Falkner and Marius Lindauer and Frank Hutter},
journal= {arXiv preprint arXiv:2007.04074},
year = {2022}
}
备注
Final version as published at JMLR 23(261)