S-LIME：用于模型解释的 Stabilized-LIME
机器学习
2021-06-16 v1 机器学习
摘要
越来越多的机器学习模型已部署在金融和医疗等高风险领域。尽管性能优越，许多模型本质上是难以解释的黑箱。研究者正日益努力开发解释这些黑箱模型的方法。基于扰动的事后解释（如LIME）是广泛使用的在模型构建后对其进行解释的方法。这类方法已被证明存在较大的不稳定性，对该方法本身的有效性构成严重挑战并损害用户信任。本文中，我们提出S-LIME，其利用基于中心极限定理的假设检验框架来确定保证所得解释稳定性所需的扰动点数量。在模拟和真实世界数据集上的实验证明了我们方法的有效性。
引用
@article{arxiv.2106.07875,
title = {S-LIME: Stabilized-LIME for Model Explanation},
author = {Zhengze Zhou and Giles Hooker and Fei Wang},
journal= {arXiv preprint arXiv:2106.07875},
year = {2021}
}
备注
In Proceedings of the 27th ACM SIGKDD Conference on Knowledge Discovery and Data Mining (KDD '21), August 14--18, 2021, Virtual Event, Singapore