用加性重要性度量理解全局特征贡献
机器学习
2020-10-28 v2 机器学习
摘要
理解复杂机器学习模型的内在机制是一个长期问题，且近期研究多聚焦于局部可解释性。为从全局角度评估单个输入特征的作用，我们探索通过各特征关联的预测能力来定义特征重要性的视角。我们引入两种预测能力概念（基于模型与通用），并以加性重要性度量框架形式化该方法，其统一了文献中众多方法。随后我们提出SAGE，一种模型无关方法，可在考虑特征交互的同时量化预测能力。我们的实验表明SAGE可高效计算，且比其他方法赋予更准确的重要性值。
引用
@article{arxiv.2004.00668,
title = {Understanding Global Feature Contributions With Additive Importance Measures},
author = {Ian Covert and Scott Lundberg and Su-In Lee},
journal= {arXiv preprint arXiv:2004.00668},
year = {2020}
}
备注
NeurIPS 2020 Camera Ready