通过识别信息性输入特征解释 COVID-19 与胸部病理模型预测
图像与视频处理
2021-08-05 v2 计算机视觉与模式识别
机器学习
摘要
神经网络在胸部 X 光片的分类与回归任务中展现出卓越性能。为在临床常规中建立信任，网络的预测机制需具备可解释性。解释的一个主要方法是特征归因。特征归因方法识别输入特征对输出预测的重要性。基于信息瓶颈归因 (Information Bottleneck Attribution, IBA) 方法，我们对每个预测识别与网络输出具有高互信息的胸部 X 光区域。原始 IBA 识别具有充分预测信息的输入区域。我们提出逆 IBA (Inverse IBA) 以识别所有信息性区域。从而在 X 光片上突出显示病理的所有预测线索，这是胸部 X 光诊断的理想特性。此外，我们提出回归 IBA (Regression IBA) 用于解释回归模型。利用回归 IBA，我们观察到在累积严重程度评分标签上训练的模型隐式学习了不同 X 光区域的严重程度。最后，我们提出多层 IBA (Multi-layer IBA) 以生成更高分辨率和更详细的归因/显著图。我们在 NIH Chest X-ray8 和 BrixIA 数据集上使用以人为中心（基于真值）的可解释性指标以及人无关的特征重要性指标评估了我们的方法。代码已公开可用。
引用
@article{arxiv.2104.00411,
title = {Explaining COVID-19 and Thoracic Pathology Model Predictions by Identifying Informative Input Features},
author = {Ashkan Khakzar and Yang Zhang and Wejdene Mansour and Yuezhi Cai and Yawei Li and Yucheng Zhang and Seong Tae Kim and Nassir Navab},
journal= {arXiv preprint arXiv:2104.00411},
year = {2021}
}
备注
Accepted in MICCAI 2021 (Medical Image Computing and Computer Assisted Intervention 2021) ----- Project website: https://camp-explain-ai.github.io/CheXplain-IBA/