超像素聚合对LIME中解释的影响——以生物数据为例的研究
机器学习
2019-10-18 v1 定量方法
机器学习
摘要
使用深度神经网络(如卷积神经网络(CNNs))的端到端学习已被证明在多种图像分类任务中非常成功。为使黑盒方法的决策透明，人们提出了不同的解决方案。LIME是一种可解释AI方法，依赖于基于Quick-Shift算法将图像分割为超像素。本文对不同超像素方法(即Felzenszwalb、SLIC与Compact-Watershed)如何影响生成的视觉解释进行了探索性研究。我们将所得相关区域与人工参考所标记的图像部分进行比较。结果表明，所选为相关的图像部分因所应用方法的不同而存在强烈差异。Quick-Shift得出的与参考相关区域的对应最少，而Compact-Watershed对应最高。
引用
@article{arxiv.1910.07856,
title = {Effect of Superpixel Aggregation on Explanations in LIME -- A Case Study with Biological Data},
author = {Ludwig Schallner and Johannes Rabold and Oliver Scholz and Ute Schmid},
journal= {arXiv preprint arXiv:1910.07856},
year = {2019}
}