MindfulLIME：面向医学图像的机器学习模型解释稳定性提升方案
机器学习
2025-03-27 v1 计算机视觉与模式识别
图像与视频处理
摘要
确保机器学习决策的透明度在医疗、金融等敏感领域尤为重要。尽管如此，诸如 LIME（Local Interpretable Model-agnostic Explanations）等流行解释算法常因随机扰动样本生成而产生不稳定的解释。随机扰动对原始数据的微小变化或噪声会导致解释不一致，即使样本量极小，所生成的解释也会显著影响模型的解释结果，削弱信任并阻碍可解释模型的采纳。为此，我们提出 MindfulLIME，一种新型算法，通过图基修剪算法和不确定性采样智能生成 purposeive 样本。MindfulLIME 在可视化解释一致性方面显著优于随机采样方法。我们的实验在广泛使用的胸部 X 光数据集上进行，结果表明在相同条件下，MindfulLIME 以 100% 的成功率稳定可靠地提供解释。此外，MindfulLIME 通过减少生成解释与实际局部标注之间的距离，提高了视觉解释的局部定位精度。我们还进行了多样化的分割算法和样本数量实验，聚焦稳定性、质量和效率。结果显示，MindfulLIME 在不同分割设置下表现卓越，能在合理的处理时间内生成更少的高质量样本。通过解决 LIME 在图像数据中的稳定性局限，MindfulLIME 提升了医学影像等特定应用领域中机器学习模型的可信度和可解释性。
引用
@article{arxiv.2503.20758,
title = {MindfulLIME: A Stable Solution for Explanations of Machine Learning Models with Enhanced Localization Precision -- A Medical Image Case Study},
author = {Shakiba Rahimiaghdam and Hande Alemdar},
journal= {arXiv preprint arXiv:2503.20758},
year = {2025}
}