通过深度强化学习构建决策森林
机器学习
2022-04-04 v1
摘要
以决策树为基分类器的集成学习方法通常属于 bagging 或 boosting。然而，据我们所知，此前尚无工作通过最大化长期回报来构建集成分类器。本文提出一种称为 MA-H-SAC-DF 的、通过深度强化学习实现二分类的决策森林构建方法。首先，将该构建过程建模为分散式部分可观测马尔可夫决策过程，并由一组协作智能体共同构造所有基分类器。其次，基于父节点信息与当前位置信息定义全局状态与局部观测。最后，将最先进的深度强化方法 Hybrid SAC 在 CTDE 架构下扩展为多智能体系统，以寻找最优决策森林构建策略。实验表明，MA-H-SAC-DF 在平衡数据集上与随机森林、Adaboost 和 GBDT 性能相当，并在不平衡数据集上优于它们。
引用
@article{arxiv.2204.00306,
title = {Building Decision Forest via Deep Reinforcement Learning},
author = {Guixuan Wen and Kaigui Wu},
journal= {arXiv preprint arXiv:2204.00306},
year = {2022}
}