利用专家输入实现胸部 X 光片中鲁棒且可解释的 AI 辅助肺癌检测
机器学习
2025-03-31 v2 计算机视觉与模式识别
摘要
深度学习模型在推进 AI 辅助医疗诊断方面显示出巨大潜力，特别是在通过胸部 X 光片等医学图像模态检测肺癌方面。然而，这些模型的黑盒性质对其可解释性和可信度构成了挑战，限制了它们在临床实践中的应用。本研究利用胸部 X 光片和放射学报告的公共数据集，检查了基于 InceptionV3 的高性能肺癌检测模型的可解释性和鲁棒性。我们评估了多种可解释 AI（XAI）技术的临床效用，包括事后和事前方法，并发现现有方法通常无法提供临床相关的解释，表现出与专家放射科医生评估的不一致和分歧。为了解决这些局限性，我们与一位放射科医生合作定义了特定于诊断的临床概念，并开发了 ClinicXAI，这是一种利用概念瓶颈方法的专家驱动方法。ClinicXAI 生成了与临床医生的实际要求密切一致的、具有临床意义的解释，同时保持了高诊断准确性。我们还通过将 ClinicXAI 和原始 InceptionV3 模型都置于一系列广泛使用的对抗攻击中，评估了 ClinicXAI 的鲁棒性。我们的分析表明，ClinicXAI 对对抗扰动表现出显著更强的抵抗力。这些发现强调了将领域专业知识纳入可解释和鲁棒的医疗诊断 AI 系统设计的重要性，为医疗保健领域更值得信赖和有效的 AI 解决方案铺平了道路。
引用
@article{arxiv.2403.19444,
title = {Leveraging Expert Input for Robust and Explainable AI-Assisted Lung Cancer Detection in Chest X-rays},
author = {Amy Rafferty and Rishi Ramaesh and Ajitha Rajan},
journal= {arXiv preprint arXiv:2403.19444},
year = {2025}
}