基于特征模型解释的评价与聚合
机器学习
2020-05-05 v1 人工智能
计算机与社会
机器学习
摘要
基于特征的模型解释表示每个输入特征对模型在给定数据点上输出的贡献程度。随着所提出的解释函数数量的增长，我们缺乏定量评价标准以帮助实践者了解何时使用何种解释函数。本文提出基于特征的解释的定量评价标准：低敏感性、高忠实性与低复杂性。我们设计了一个聚合解释函数的框架。我们开发了以更低复杂性学习聚合解释函数的流程，并推导出最小化敏感性的新聚合 Shapley 值解释函数。
引用
@article{arxiv.2005.00631,
title = {Evaluating and Aggregating Feature-based Model Explanations},
author = {Umang Bhatt and Adrian Weller and José M. F. Moura},
journal= {arXiv preprint arXiv:2005.00631},
year = {2020}
}
备注
Accepted at IJCAI 2020