VolcanoML:通过可扩展搜索空间分解加速端到端AutoML
机器学习
2021-07-21 v2
摘要
端到端 AutoML 引起了学术界与工业界的密集关注,其自动在由特征工程、算法/模型选择及超参数调优所诱导的空间中搜索 ML 流水线。然而,现有 AutoML 系统在应用于具有庞大高维搜索空间的应用领域时存在可扩展性问题。我们提出 VolcanoML,一个可促进对大型 AutoML 搜索空间进行系统性探索的可扩展且可扩展框架。VolcanoML 引入并实现了将大型搜索空间分解为较小空间的基本构建块,并允许用户利用这些构建块为手头的 AutoML 问题组合出执行计划。VolcanoML 进一步支持类 Volcano 风格的执行模型——类似于现代数据库系统所支持者——以执行所构建的计划。我们的评估表明,VolcanoML 不仅提升了 AutoML 中搜索空间分解的表达层次,还实际发现了显著优于最先进 AutoML 系统(如 auto-sklearn)所采用策略的分解策略。
引用
@article{arxiv.2107.08861,
title = {VolcanoML: Speeding up End-to-End AutoML via Scalable Search Space Decomposition},
author = {Yang Li and Yu Shen and Wentao Zhang and Jiawei Jiang and Bolin Ding and Yaliang Li and Jingren Zhou and Zhi Yang and Wentao Wu and Ce Zhang and Bin Cui},
journal= {arXiv preprint arXiv:2107.08861},
year = {2021}
}