基于Shapley加性解释的机器学习模型解释及其在医院真实数据中的应用
机器学习
2022-03-03 v2 机器学习
摘要
在决策过程中使用机器学习技术时，模型的可解释性十分重要。本文采用基于多利益相关方按贡献公平分配收益的Shapley加性解释（SHAP）来解释使用医院数据的梯度提升决策树模型。为了获得更好的可解释性，我们提出了以下两种新技术：（1）一种基于SHAP的特征重要性新度量；（2）一种称为特征打包（feature packing）的技术，该技术将多个相似特征打包为一个分组特征，从而无需重构模型即可更轻松地理解模型。随后，我们将SHAP框架的解释结果与现有方法进行了比较。此外，我们利用医院数据和所提技术展示了A/G比值如何作为脑梗死的重要预后因素。
引用
@article{arxiv.2112.11071,
title = {Explanation of Machine Learning Models Using Shapley Additive Explanation and Application for Real Data in Hospital},
author = {Yasunobu Nohara and Koutarou Matsumoto and Hidehisa Soejima and Naoki Nakashima},
journal= {arXiv preprint arXiv:2112.11071},
year = {2022}
}