autoBagging：利用元学习对 Bagging 工作流进行排序学习
机器学习
2017-06-29 v1 机器学习
摘要
机器学习 (ML) 已成功应用于广泛的领域和应用。这些成功应用背后的技术之一是集成学习 (EL)，即诞生了随机森林或 Boosting 等方法的 ML 领域。应用这些技术的复杂性以及 ML 专家的稀缺，催生了能够作为 ML 库快速且易于替换的系统的需要。自动化机器学习 (autoML) 是试图满足这些需求的 ML 领域。通常，这些系统依赖贝叶斯优化等优化技术来引导最佳模型的搜索。我们的方法不同于这些系统，它利用元学习的最新进展和排序学习 (learning to rank) 方法从元数据中学习。我们提出了 autoBagging，这是一个 autoML 系统，它通过利用过去的性能和数据集特征自动对 63 个 Bagging 工作流进行排序。来自 OpenML 平台的 140 个分类数据集的结果表明，autoBagging 可以产生优于平均排名 (Average Rank) 方法的性能，并实现与理想模型（该系统为每个数据集系统性地选择最佳工作流）在统计上无差异的结果。为了可重复性和通用性，autoBagging 作为 R 包在 CRAN 上公开可用。
引用
@article{arxiv.1706.09367,
title = {autoBagging: Learning to Rank Bagging Workflows with Metalearning},
author = {Fábio Pinto and Vítor Cerqueira and Carlos Soares and João Mendes-Moreira},
journal= {arXiv preprint arXiv:1706.09367},
year = {2017}
}