加性特征归因方法中的不确定性
机器学习
2023-11-30 v1 人工智能
摘要
本工作探讨归属于事后可解释人工智能（XAI）方法中不确定性范畴的若干课题，尤其聚焦于加性特征归因解释方法类。我们首先界定不确定性的具体含义，并比较多种统计及近期方法以量化之。继而针对特定实例，我们研究特征归因与其不确定性之间的关系，观察到二者相关性甚微。据此，我们提出修改 LIME 类算法中采样扰动的分布，使得重要特征具有最小不确定性且不增加计算成本。接下来，在考察分类器特征空间上解释不确定性的变化时，我们发现部分实例呈现近零不确定性，将其称为“稳定实例”并诊断了致使实例稳定的因素。随后，我们研究 XAI 算法的不确定性如何随底层模型规模与复杂度变化，观察到模型越复杂，其展现的固有不确定性越高。为此，我们提出一种量化黑盒分类器相对复杂度的度量，其可被纳入（例如）LIME 类算法的采样密度中，以助不同解释算法获得更紧的置信水平。综上，上述度量将有力提升 XAI 模型对终端用户的相对可信度，并助力科学发现。
引用
@article{arxiv.2311.17446,
title = {Uncertainty in Additive Feature Attribution methods},
author = {Abhishek Madaan and Tanya Chowdhury and Neha Rana and James Allan and Tanmoy Chakraborty},
journal= {arXiv preprint arXiv:2311.17446},
year = {2023}
}
备注
14