ALIME：基于自编码器的局部可解释性方法
机器学习
2019-09-06 v1 机器学习
摘要
机器学习，尤其是深度学习，近年来由于相对于其他方法性能的提升而获得了极大的关注。大量数据的可用性促进了深度学习的进展。然而，深度学习模型是不透明的，常被视为黑箱。因此，存在使模型可解释的固有需求，尤其是在医学领域。在这项工作中，我们提出了一种受近期广受关注的工具——局部可解释模型无关解释（LIME）启发的局部可解释方法。LIME通过人工在实例周围生成数据集（通过随机采样和使用扰动）然后训练局部线性可解释模型来生成单实例级别的解释。LIME中的一个主要问题是由随机生成的数据集引起的解释不稳定性。这类局部可解释模型的另一个问题是局部保真度。我们通过对LIME进行新颖的改进，采用自编码器作为局部模型的更好加权函数。我们与不同数据集进行了广泛比较，表明我们提出的方法在稳定性和局部保真度方面均有改善。
引用
@article{arxiv.1909.02437,
title = {ALIME: Autoencoder Based Approach for Local Interpretability},
author = {Sharath M. Shankaranarayana and Davor Runje},
journal= {arXiv preprint arXiv:1909.02437},
year = {2019}
}