逐实例还是逐类别？基于概念解释中的邻居 Shapley 值之争
机器学习
2023-02-22 v6
摘要
深度神经网络在许多数据驱动和面向预测的应用中展现出卓越性能，有时甚至优于人类。然而，其最显著的缺陷是缺乏可解释性，这使得它们在许多现实世界应用中吸引力不足。当涉及犯罪判决、金融分析和医疗诊断等具有不确定道德问题或环境因素的情形时，挖掘模型预测的证据（解释模型知识）以说服人类至关重要。因此，研究如何解释模型知识对于学术研究和实际应用均极为重要。
引用
@article{arxiv.2109.01369,
title = {Instance-wise or Class-wise? A Tale of Neighbor Shapley for Concept-based Explanation},
author = {Jiahui Li and Kun Kuang and Lin Li and Long Chen and Songyang Zhang and Jian Shao and Jun Xiao},
journal= {arXiv preprint arXiv:2109.01369},
year = {2023}
}