通过可扩展搜索空间分解实现高效的端到端 AutoML
机器学习
2022-06-27 v2
摘要
端到端 AutoML 吸引了学术界和工业界的浓厚兴趣，它在由特征工程、算法/模型选择和超参数调优生成的空间中自动搜索 ML 流水线。然而，现有的 AutoML 系统在应用于具有大型、高维搜索空间的应用领域时，存在可扩展性问题。我们提出了 VolcanoML，一个可扩展且可扩展的框架，有助于对大型 AutoML 搜索空间进行系统探索。VolcanoML 引入并实现了将大型搜索空间分解为较小空间的基本构建块，并允许用户利用这些构建块为手头的 AutoML 问题组合出执行计划。VolcanoML 进一步支持 Volcano 风格的执行模型——类似于现代数据库系统支持的模型——来执行所构建的计划。我们的评估表明，VolcanoML 不仅提高了 AutoML 中搜索空间分解的表达能力，还带来了比诸如 auto-sklearn 等最先进 AutoML 系统所采用的策略显著更高效的分解策略的实际发现。本文是发表于 VLDB 2021 的初始 VolcanoML 论文的扩展版本。
引用
@article{arxiv.2206.09423,
title = {Efficient End-to-End AutoML via Scalable Search Space Decomposition},
author = {Yang Li and Yu Shen and Wentao Zhang and Ce Zhang and Bin Cui},
journal= {arXiv preprint arXiv:2206.09423},
year = {2022}
}
备注
This paper is an extended version of the initial VolcanoML paper (li et al. VLDB 2021). arXiv admin note: substantial text overlap with arXiv:2107.08861