面向机器学习流水线合成的增量搜索空间构建
机器学习
2021-01-27 v1
摘要
自动化机器学习(AutoML)旨在自动构建机器学习(ML)流水线。许多研究探讨了算法选择与超参数优化的高效方法。然而,考虑包含多种预处理与分类算法的复杂流水线结构影响的 ML 流水线合成与优化方法尚未被充分研究。本文提出一种受人类行为启发的、基于元特征用于流水线构建与超参数优化的以数据为中心的方法。通过结合中间数据集的元特征增量式扩展流水线搜索空间,我们能够有效剪枝流水线结构搜索空间。因此,可构建灵活且针对特定数据集的 ML 流水线。我们在 28 个成熟 AutoML 基准数据集上,与最先进的 AutoML 框架对比,证明了本方法的有效性与竞争力。
引用
@article{arxiv.2101.10951,
title = {Incremental Search Space Construction for Machine Learning Pipeline Synthesis},
author = {Marc-André Zöller and Tien-Dung Nguyen and Marco F. Huber},
journal= {arXiv preprint arXiv:2101.10951},
year = {2021}
}
备注
Conference paper accepted at Symposium on Intelligent Data Analysis (IDA) 2021