ReinBo:嵌入贝叶斯优化的强化学习机器学习流水线搜索与配置
机器学习
2021-05-04 v1 人工智能
机器学习
摘要
机器学习流水线可能由数据预处理、特征工程和机器学习模型训练等多个操作阶段组成。每个操作都有一组超参数,当该操作未被选中时,这些超参数对流水线而言便无意义。这产生了一个分层条件超参数空间。为优化这一连续与离散混合的条件分层超参数空间,我们提出了一种高效的流水线搜索与配置算法,它结合了强化学习与贝叶斯优化的优势。实证结果表明,与 Auto-sklearn、TPOT、Tree Parzen Window 和 Random Search 等最先进方法相比,我们的方法表现更优。
引用
@article{arxiv.1904.05381,
title = {ReinBo: Machine Learning pipeline search and configuration with Bayesian Optimization embedded Reinforcement Learning},
author = {Xudong Sun and Jiali Lin and Bernd Bischl},
journal= {arXiv preprint arXiv:1904.05381},
year = {2021}
}