基于蒙特卡洛树搜索的自动化机器学习
机器学习
2019-10-09 v2 机器学习
摘要
AutoML 任务包括从机器学习组合中选择合适的算法及其超参数值,以在手头数据集上提供最佳性能。本文提出 Mosaic,一种基于蒙特卡洛树搜索(MCTS)的方法,用于处理 AutoML 混合结构与参数的昂贵黑盒优化问题。我们进行了广泛的实证研究,以独立评估和比较:i) 基于贝叶斯优化或 MCTS 的优化过程;ii) 其热启动初始化;iii) 搜索过程中收集解的集成。Mosaic 在 OpenML 100 基准和 Scikit-learn 组合上进行评估,相对于前国际 AutoML 挑战赛冠军 Auto-Sklearn 取得了统计显著的增益。
引用
@article{arxiv.1906.00170,
title = {Automated Machine Learning with Monte-Carlo Tree Search},
author = {Herilalaina Rakotoarison and Marc Schoenauer and Michèle Sebag},
journal= {arXiv preprint arXiv:1906.00170},
year = {2019}
}