AVATAR——基于代理模型的机器学习流水线评估
机器学习
2020-02-04 v2 机器学习
摘要
机器学习(ML)流水线的评估在自动ML流水线组合与优化过程中至关重要。先前的方法如基于贝叶斯和基于遗传的优化(实现于Auto-Weka、Auto-sklearn和TPOT中)通过执行流水线来评估它们。因此,这些方法的流水线组合与优化需要海量时间,阻碍其探索复杂流水线以寻找更好的预测模型。为进一步探究该挑战,我们开展了实验,表明所生成的流水线中有许多是无效的,且无需执行它们即可判断其是否为优良流水线。为解决此问题,我们提出一种利用代理模型(AVATAR)评估ML流水线有效性的新方法。AVATAR通过快速忽略无效流水线,加速自动ML流水线组合与优化。我们的实验表明,相较于需要执行流水线的传统评估方法,AVATAR在评估复杂流水线方面更为高效。
引用
@article{arxiv.2001.11158,
title = {AVATAR -- Machine Learning Pipeline Evaluation Using Surrogate Model},
author = {Tien-Dung Nguyen and Tomasz Maszczyk and Katarzyna Musial and Marc-Andre Zöller and Bogdan Gabrys},
journal= {arXiv preprint arXiv:2001.11158},
year = {2020}
}
备注
The Eighteenth International Symposium on Intelligent Data Analysis, IDA 2020