bLIMEy：超越LIME的替代预测解释
机器学习
2019-10-30 v1 机器学习
摘要
黑盒机器学习预测的替代解释器在可解释人工智能（XAI）领域至关重要，因为它们可应用于任何类型的数据（图像、文本和表格），具有模型无关性且为事后解释（即可以后加装）。局部可解释模型无关解释（LIME）算法常被误认为与更一般的替代解释器框架等同，这可能导致认为它是替代可解释性的解决方案。在本文中，我们通过提出一个用于构建黑盒模型预测的自定义局部替代解释器（包括LIME本身）的原则性算法框架，使社区能够“自己构建LIME”（bLIMEy）。为此，我们展示了如何将替代解释器族分解为算法上独立且可互操作的模块，并以LIME为例讨论了这些组件选择对所得解释器功能能力的影响。
引用
@article{arxiv.1910.13016,
title = {bLIMEy: Surrogate Prediction Explanations Beyond LIME},
author = {Kacper Sokol and Alexander Hepburn and Raul Santos-Rodriguez and Peter Flach},
journal= {arXiv preprint arXiv:1910.13016},
year = {2019}
}
备注
2019 Workshop on Human-Centric Machine Learning (HCML 2019); 33rd Conference on Neural Information Processing Systems (NeurIPS 2019), Vancouver, Canada