MeLIME：面向机器学习模型的有意义局部解释
机器学习
2020-09-15 v1 人工智能
摘要
大多数最先进的机器学习算法产生黑盒模型，阻碍了其在许多敏感领域的应用。因此，为解决该问题已提出多种解释机器学习模型的方法。本工作中，我们引入考虑用于训练黑盒模型的数据分布的策略来改进局部解释。我们表明，相较于其他技术，我们的方法 MeLIME 在不同 ML 模型上、针对各类数据均产生更有意义的解释。MeLIME 推广了 LIME 方法，允许更灵活的扰动采样以及使用不同的局部可解释模型。此外，我们对局部可解释模型的标准训练算法进行改进，以促进更鲁棒的解释，甚至允许生成反事实示例。为展示所提方法的优势，我们包含了在表格数据、图像和文本上的实验，均显示出改进的解释。特别地，MeLIME 在 MNIST 数据集上生成了比 GuidedBackprop、SmoothGrad 和 Layer-wise Relevance Propagation 等方法更有意义的解释。MeLIME 可在 https://github.com/tiagobotari/melime 获取。
引用
@article{arxiv.2009.05818,
title = {MeLIME: Meaningful Local Explanation for Machine Learning Models},
author = {Tiago Botari and Frederik Hvilshøj and Rafael Izbicki and Andre C. P. L. F. de Carvalho},
journal= {arXiv preprint arXiv:2009.05818},
year = {2020}
}