基于概念激活向量的深度学习皮肤病变分类器可解释性研究
机器学习
2022-01-06 v1 计算机视觉与模式识别
图像与视频处理
机器学习
摘要
基于深度学习的医学图像分类器在眼科、皮肤科、病理学和放射学等多个应用领域展现出卓越的能力。然而，这些计算机辅助诊断 (CAD) 系统在真实临床环境中的接受度严重受限，主要因为其决策过程在很大程度上仍不透明。本工作旨在通过验证模型学习并利用了与皮肤科医生所描述和使用的相似的疾病相关概念，来阐明一个基于深度学习的医学图像分类器。我们使用了一个由复杂数据推理 (RECOD) 实验室开发的、训练有素且性能优异的神经网络，用于对三种皮肤肿瘤（即黑素细胞痣、黑色素瘤和脂溢性角化病）进行分类，并对其潜在空间进行了详细分析。实验使用了两个建立良好且公开可用的皮肤疾病数据集 PH2 和 derm7pt。借助概念激活向量 (CAV)，将人类可理解的概念映射到 RECOD 图像分类模型，并引入了针对 CAV 的新型训练和显著性检验范式。我们在独立评估集上的结果清楚地表明，该分类器在其潜在表示中学习并编码了人类可理解的概念。此外，TCAV 分数（使用 CAV 进行测试）表明，神经网络在进行预测时确实以正确的方式利用了疾病相关概念。我们预期这项工作不仅能增强医疗从业者对 CAD 的信心，还能作为进一步开发基于 CAV 的神经网络解释方法的基石。
引用
@article{arxiv.2005.02000,
title = {On Interpretability of Deep Learning based Skin Lesion Classifiers using Concept Activation Vectors},
author = {Adriano Lucieri and Muhammad Naseer Bajwa and Stephan Alexander Braun and Muhammad Imran Malik and Andreas Dengel and Sheraz Ahmed},
journal= {arXiv preprint arXiv:2005.02000},
year = {2022}
}
备注
Accepted for the IEEE International Joint Conference on Neural Networks (IJCNN) 2020