AutoML:探索 vs. 利用
机器学习
2020-01-01 v2 机器学习
摘要
以自动化方式构建机器学习(ML)流水线是一项关键且复杂的任务,因为它受限于可用的时间预算和资源。这促使研究界提出若干方案以利用可用时间和资源。大量工作致力于使用包括基于元学习的技术在内的各种技术,为给定数据集推荐最有前景的分类器。这使得 AutoML 框架有机会花更多时间利用那些分类器并调优其超参数。在本文中,我们通过实验研究了在有限时间预算内利用最有前景的分类器来提升流水线性能的假设。我们还研究了增加时间预算对流水线性能的影响。跨 autoSKLearn、TPOT 和 ATM 的实证结果表明,利用最有前景的分类器并未取得比探索整个搜索空间在统计上更优的性能。该结论同样适用于长时间预算。
引用
@article{arxiv.1912.10746,
title = {AutoML: Exploration v.s. Exploitation},
author = {Hassan Eldeeb and Abdelrhman Eldallal},
journal= {arXiv preprint arXiv:1912.10746},
year = {2020}
}
备注
The paper has been rejected by EDBT conference and it needs major enhancements and modifications. Therefore, it is better to be withdrawn until we finish these enhancements