深度森林的解释与简化
人工智能
2020-12-15 v4 机器学习
摘要
本文提出了一种利用所提出的规则消除来解释和简化深度随机森林(RF)黑盒模型的新方法。在深度 RF 中，大量决策树连接到多个层，从而使得分析困难。它具有类似于深度神经网络(DNN)的高性能，但实现了更好的泛化能力。因此，在本研究中，我们考虑以决策规则集的形式量化完全训练好的深度 RF 的特征贡献和频率。特征贡献为确定特征如何影响规则集中的决策过程提供了依据。模型简化通过测量特征贡献来消除不必要的规则而实现。因此，简化后的模型比之前具有更少的参数和规则。实验结果表明，特征贡献分析允许将黑盒模型分解以定量解释规则集。尽管消除了大量规则，所提出的方法仍成功应用于各种深度 RF 模型和基准数据集，同时保持了稳健的性能。
引用
@article{arxiv.2001.04721,
title = {Interpretation and Simplification of Deep Forest},
author = {Sangwon Kim and Mira Jeong and Byoung Chul Ko},
journal= {arXiv preprint arXiv:2001.04721},
year = {2020}
}
备注
Major issues on the experiments