深度神经网络还是皮肤科医生？
机器学习
2019-11-13 v1 图像与视频处理
机器学习
摘要
深度学习技术已在数字化皮肤镜图像中识别黑色素瘤方面证明了高准确率。其优势在于这些方法不受人类语义预定义特征的约束。其劣势在于难以理解模型预测的依据并识别潜在的失败模式。这是在临床实践中采用深度学习的主要障碍。在本文中，我们探讨两种现有的局部可解释性方法 Grad-CAM 和 Kernel SHAP 是否能阐明在黑色素瘤检测背景下训练的卷积神经网络。我们的贡献在于：(i) 我们首先通过一个可复现的端到端学习框架探索领域空间，该框架创建了一套 30 个模型，全部在公开可用数据集 (HAM10000) 上训练；(ii) 我们接下来通过一些基本合理性检验实验探讨此背景下 GradCAM 和 Kernel SHAP 的可靠性；(iii) 最后，我们使用 GradCAM 和 Kernel SHAP 对我们套件中的随机选取模型进行探究。我们表明，尽管准确率很高，模型偶尔会将重要性分配给与诊断任务无关的特征。我们还表明，相似准确率的模型会产生由这些方法度量的不同解释。该工作代表了在皮肤癌分类领域弥合模型准确率与可解释性之间差距的第一步。
引用
@article{arxiv.1908.06612,
title = {Deep neural network or dermatologist?},
author = {Kyle Young and Gareth Booth and Becks Simpson and Reuben Dutton and Sally Shrapnel},
journal= {arXiv preprint arXiv:1908.06612},
year = {2019}
}