ExplAIn：用于糖尿病视网膜病变诊断的可解释人工智能
计算机视觉与模式识别
2021-07-23 v3
摘要
近年来，人工智能(AI)已证明其在医疗决策支持方面的价值。然而，成功的人工智能算法的“黑箱”特性仍阻碍了其广泛部署。在本文中，我们描述了一种可解释人工智能(XAI)，在使用彩色眼底照相(CFP)对糖尿病视网膜病变(DR)严重程度进行分类的任务上，达到了与黑箱AI相同的性能水平。该算法称为ExplAIn，学习对图像中的病变进行分割与分类；最终的图像级分类直接由这些多变量病变分割得出。该解释性框架的新颖之处在于，它像黑箱AI算法一样，仅以图像监督端到端训练：病变及病变类别的概念自行涌现。为改进病变定位，通过自监督训练前景/背景分离，使得遮挡前景像素可将输入图像转换为看似健康的图像。这种架构的优势在于，自动诊断可简单地通过一幅图像和/或几句话加以解释。ExplAIn在各种CFP图像数据集上于图像级和像素级进行了评估。我们期望这一同时具备高分类性能与可解释性的新框架能够促进AI的部署。
引用
@article{arxiv.2008.05731,
title = {ExplAIn: Explanatory Artificial Intelligence for Diabetic Retinopathy Diagnosis},
author = {Gwenolé Quellec and Hassan Al Hajj and Mathieu Lamard and Pierre-Henri Conze and Pascale Massin and Béatrice Cochener},
journal= {arXiv preprint arXiv:2008.05731},
year = {2021}
}