基于最优传输的可解释解释器全局性的公理化

可解释性方法往往难以评估和比较。随着可解释器的日益增多，实践者通常需要根据定量评估指标来比较和选择可解释器。解释器之间的一个关键区别在于其对给定数据集产生的解释的多样性，即所有解释是完全相同、彼此唯一且均匀分布，还是介于两者之间。在本工作中，我们为解释器定义了一个复杂性度量——全局性，它有助于深入理解特征归因和特征选择方法对给定数据集所产生的解释的分布。我们建立了此类度量应具备的公理性质，并证明了我们提出的度量——Wasserstein 全局性——满足这些准则。我们通过在图像、表格和合成数据集上的实验验证了 Wasserstein 全局性的实用性，经验性地表明它既促进了可解释器之间的有意义的比较，也改善了可解释性方法的选择过程。