朴素自动机器学习
机器学习
2021-11-30 v1
摘要
自动机器学习(AutoML)的一项核心任务是自动寻找在给定数据集上具有最佳泛化性能的流水线。该问题已通过贝叶斯优化、基于文法的遗传算法和树搜索算法等复杂黑盒优化技术加以解决。当前多数方法的动机源于一种假设:孤立地优化流水线各组件可能导致次优结果。我们提出朴素 AutoML(Naive AutoML),一种恰恰如此的做法:它在孤立状态下优化预定义流水线方案中不同算法。最终返回的流水线仅取每个槽位的最优算法而得。这种孤立优化大幅缩减了搜索空间,且令人惊讶的是,该方法取得了与当前最先进优化器相当、有时甚至更优的性能。
引用
@article{arxiv.2111.14514,
title = {Naive Automated Machine Learning},
author = {Felix Mohr and Marcel Wever},
journal= {arXiv preprint arXiv:2111.14514},
year = {2021}
}