s-LIME：在线性解释中调和局部性与保真度
机器学习
2022-08-03 v1
摘要
局部性的好处是 LIME（最突出的解释黑盒机器学习模型的方法之一）的主要前提之一。这种强调依赖于一个假设：我们在实例邻域上考察得越局部，黑盒模型变得越简单，也就越能用线性代理模型准确模仿它。尽管这看似合理，我们的发现表明，在 LIME 当前设计下，当解释过于局部（即带宽参数 趋于零）时，代理模型可能退化。基于该观察，本文的贡献有两点。首先，我们研究带宽与训练邻域对 LIME 解释的保真度与语义的影响。其次，基于我们的发现，我们提出 \slime，一种调和保真度与局部性的 LIME 扩展。
引用
@article{arxiv.2208.01510,
title = {s-LIME: Reconciling Locality and Fidelity in Linear Explanations},
author = {Romaric Gaudel and Luis Galárraga and Julien Delaunay and Laurence Rozé and Vaishnavi Bhargava},
journal= {arXiv preprint arXiv:2208.01510},
year = {2022}
}