基于 CT 扫描的深度学习分类结果是否公平且可解释？
机器学习
2023-11-16 v2 人工智能
图像与视频处理
统计方法学
摘要
随着各种深度学习方法在图像与物体分类上的巨大成功，生物医学图像处理领域也充斥着它们在不同自动诊断案例中的应用。遗憾的是，文献中大多数基于深度学习的分类尝试仅聚焦于极高的准确率指标，而未考虑可解释性，或训练与测试数据在患者层面的分离。例如，大多数使用深度学习的肺结节分类论文随机打乱数据并划分为训练、验证和测试集，导致同一人的 CT 扫描中某些图像进入训练集，而同一人的其他图像进入验证或测试图像集。这会造成报告具有误导性的准确率，并学到无关特征，最终降低这些模型在真实场景中的可用性。当以传统、不公平的数据打乱方法训练的深层神经网络面对新患者图像时，观察到训练好的模型表现糟糕。相比之下，以严格患者级分离训练的深层神经网络即使测试新患者图像也能保持准确率。严格患者级分离训练的深层神经网络激活的热图可视化显示出对相关结节更高程度的关注。我们认为，仅当深层神经网络以严格隔离于验证和测试患者集的患者图像训练时，标题所提研究问题才有肯定答案。
引用
@article{arxiv.2309.12632,
title = {Are Deep Learning Classification Results Obtained on CT Scans Fair and Interpretable?},
author = {Mohamad M. A. Ashames and Ahmet Demir and Omer N. Gerek and Mehmet Fidan and M. Bilginer Gulmezoglu and Semih Ergin and Mehmet Koc and Atalay Barkana and Cuneyt Calisir},
journal= {arXiv preprint arXiv:2309.12632},
year = {2023}
}