TREX：树集成代表点解释方法
机器学习
2021-12-20 v3 机器学习
摘要
我们如何识别对树集成预测贡献最大的训练样本？本文介绍了 TREX，一种为随机森林和梯度提升树等树集成提供实例归因解释的解释系统。TREX 建立在先前为解释深度神经网络而开发的代表点框架之上。由于树集成不可微，我们定义了一个捕捉特定树集成结构的核。通过在核逻辑回归或支持向量机中使用该核，TREX 构建了一个逼近原始树集成的代理模型。代理模型核展开中的权重被用于定义每个训练样本的全局或局部重要性。我们的实验表明，TREX 的代理模型能准确逼近树集成；其全局重要性权重在数据集调试方面比先前的最先进方法更有效；在移除并重训练评估框架下，其解释比替代方法更好地识别出最具影响力的样本；其运行速度比替代方法快几个数量级；并且其局部解释能够识别并解释由领域不匹配导致的错误。
引用
@article{arxiv.2009.05530,
title = {TREX: Tree-Ensemble Representer-Point Explanations},
author = {Jonathan Brophy and Daniel Lowd},
journal= {arXiv preprint arXiv:2009.05530},
year = {2021}
}
备注
11 pages, 7 figures, and 4 tables. XXAI 2020 (co-located with ICML)