在梯度提升树中实现局部可解释性：特征贡献
机器学习
2024-02-15 v1 计算机科学中的逻辑
摘要
梯度提升决策树（GBDT）是一种基于树集成的强大加法模型。其本质使得 GBDT 成为一个黑盒模型，尽管存在多种可解释人工智能（XAI）模型通过全局和局部重新解释模型来获取信息。集成中的每棵树本身都是透明模型，但最终结果是这些树之和，不易阐明。本文开发了一种针对 GBDT 的特征贡献方法。所提出的方法利用 GBDT 架构，通过每个节点的残差计算每个特征的贡献。该算法允许计算给定预测的节点决策序列。理论证明和多项实验已开展，以证明我们方法的性能，该方法不仅是 GBDT 算法的局部可解释性模型，也是反映 GBDT 内部行为的独特选项。该提议符合某些人工智能问题（如人工智能的伦理分析）中特征贡献的需求，并符合新的欧洲法律，如关于解释权和非歧视的《通用数据保护条例》（GDPR）。
引用
@article{arxiv.2402.09197,
title = {Implementing local-explainability in Gradient Boosting Trees: Feature Contribution},
author = {Ángel Delgado-Panadero and Beatriz Hernández-Lorca and María Teresa García-Ordás and José Alberto Benítez-Andrades},
journal= {arXiv preprint arXiv:2402.09197},
year = {2024}
}