在强化学习框架内利用预测器多样性构建简约集成
机器学习
2021-03-01 v2
摘要
能够聚合无限制数量和种类的基预测器的异质集成可以有效解决具有挑战性的预测问题。特别是,既准确又简约(即由尽可能少的基预测器组成)的集成有助于揭示关于目标问题领域的潜在有用知识。尽管集成选择为实现这些目标提供了潜在途径,现有算法能力有限。在本文中,我们提出若干算法,将集成多样性纳入基于强化学习(RL)的集成选择框架,以构建准确且简约的集成。这些算法以及若干基线在来自不同领域的数据集上就集成的预测性能和简约性进行了严格评估。该评估表明,我们纳入多样性的基于 RL 的算法在构建同时准确且简约的集成方面优于其他算法。这些算法最终可辅助对融入有效集成中的预测模型进行解释或逆向工程。为实现这种转化,这些算法的实现以及它们所评估的实验设置已在 https://github.com/GauravPandeyLab/lens-learning-ensembles-using-reinforcement-learning 公开。
引用
@article{arxiv.2102.07344,
title = {Developing parsimonious ensembles using predictor diversity within a reinforcement learning framework},
author = {Ana Stanescu and Gaurav Pandey},
journal= {arXiv preprint arXiv:2102.07344},
year = {2021}
}
备注
This work was intended as a replacement of arXiv:1805.02103 and any subsequent updates will appear there