MASALA：通过局部性适应进行模型无关的代理解释
机器学习
2024-08-20 v1
摘要
现有的局部可解释人工智能(XAI)方法，如 LIME，在给定输入实例的邻域内选择输入空间的一个区域，并利用一个更简单且更易解释的代理模型来近似该模型的行为。该区域的大小通常由用户定义的局部性超参数控制。在本文中，我们展示了定义合适的局部性大小以捕捉有影响的模型行为所面临的困难，以及使用单一局部性大小来解释所有预测的不充分性。我们提出了一种新方法 MASALA，用于生成解释，它自动为每个被解释的个体实例确定适当的有影响的局部区域。MASALA 通过将线性代理模型拟合到一组经历相似模型行为的点上来近似复杂模型用于做出预测的局部行为。这些点是通过将输入空间聚类为模型所展现的线性行为趋势区域来找到的。我们将我们方法生成的解释与现有局部 XAI 方法（即 LIME 和 CHILLI）在保真度和一致性方面进行了比较。在 PHM08 和 MIDAS 数据集上的实验表明，我们的方法在不定义任何敏感局部性超参数的情况下产生了比现有方法更忠实且更一致的解释。
引用
@article{arxiv.2408.10085,
title = {MASALA: Model-Agnostic Surrogate Explanations by Locality Adaptation},
author = {Saif Anwar and Nathan Griffiths and Abhir Bhalerao and Thomas Popham},
journal= {arXiv preprint arXiv:2408.10085},
year = {2024}
}