从可解释滤波器到基于可解释人工智能的卷积神经网络预测
机器学习
2022-07-27 v1
摘要
卷积神经网络(CNN)以其优异的特征提取能力而从数据中学习模型著称，但却被用作黑箱。对卷积滤波器及相关特征的解释有助于建立对 CNN 区分各类别的理解。在本工作中，我们聚焦于一个称为 cnnexplain 的 CNN 模型的可解释性，该模型用于 Covid-19 与非 Covid-19 分类，重点在于卷积滤波器对特征的可解释性，以及这些特征如何贡献于分类。具体地，我们使用了多种可解释人工智能(XAI)方法，如可视化、SmoothGrad、Grad-CAM 与 LIME，以提供对卷积滤波器、相关特征及其在分类中作用的解释。我们利用干咳声谱图分析了这些方法对 Covid-19 检测的解释。由 LIME、SmoothGrad 与 Grad-CAM 获得的解释结果突出了不同声谱图的重要特征及其与分类的相关性。
引用
@article{arxiv.2207.12958,
title = {From Interpretable Filters to Predictions of Convolutional Neural Networks with Explainable Artificial Intelligence},
author = {Shagufta Henna and Juan Miguel Lopez Alcaraz},
journal= {arXiv preprint arXiv:2207.12958},
year = {2022}
}