基于样本的广义表示元解释方法
机器学习
2023-10-31 v1 人工智能
摘要
我们提出一类通用的基于样本的机器学习模型解释方法，称之为广义表示元（generalized representers）。为衡量训练样本对模型测试预测的影响，广义表示元使用两个分量：全局样本重要性，量化训练点对模型的重要性且与测试样本无关；以及局部样本重要性，通过核度量训练样本与测试点的相似性。本文的一个关键贡献是证明广义表示元是满足一组自然公理性质的唯一基于样本的解释类。我们讨论了在给定核下提取全局重要性的方法，以及针对现代非线性模型的核的自然选择。如我们所展示的，许多流行的现有基于样本的解释均可视为具有特定核选择和全局重要性提取方法的广义表示元。此外，我们在两个图像和两个文本分类数据集上对不同的广义表示元进行了实证比较。
引用
@article{arxiv.2310.18526,
title = {Sample based Explanations via Generalized Representers},
author = {Che-Ping Tsai and Chih-Kuan Yeh and Pradeep Ravikumar},
journal= {arXiv preprint arXiv:2310.18526},
year = {2023}
}
备注
Accepted by Neurips 2023