竞合软门控集成
机器学习
2018-08-17 v2 机器学习
摘要
在本文中，我们提出竞合软门控集成（Coopetitive Soft Gating Ensemble，CSGE），用于通用机器学习任务与交织系统。机器学习的目标是创建对未知数据集泛化良好的模型。然而，问题常过于复杂而无法用单一模型解决，因此需组合多个模型。类似地，自治计算需要不同系统的集成。在此，尤其是CSGE的局部、临时在线评估及由此产生的（重）加权方案，使该方法对自改进系统集成高度适用。为达到最佳潜在性能，CSGE可根据任意损失函数优化，从而适用于更广泛的问题。我们引入了一种新颖的训练过程，其核心包含超参数初始化。我们展示了CSGE方法在分类与回归任务上均达到最先进（SOTA）性能。此外，CSGE利用三个加权方面对所有基估计器的影响提供了人类可读的量化。并且，我们提供了与scikit-learn兼容的实现。
引用
@article{arxiv.1807.01020,
title = {Coopetitive Soft Gating Ensemble},
author = {Stephan Deist and Maarten Bieshaar and Jens Schreiber and Andre Gensler and Bernhard Sick},
journal= {arXiv preprint arXiv:1807.01020},
year = {2018}
}
备注
8 pages, 10 figures, 4 tables, submitted (accepted for publication) - SISSY 2018 - Workshop on Self-Improving System Integration at IEEE ICAC/ SASO 2018