可解释人工智能方法在医学图像分类中的分析

深度学习在图像分类等计算机视觉任务中的应用使得此类系统的性能迅速提升。由于这些系统实用性的大幅提升，人工智能在许多关键任务中的应用激增。在医学领域，医学图像分类系统因其高准确率以及在许多任务中与人类医生近乎持平的表现而得到采用。然而，这些人工智能系统极其复杂，由于难以解释究竟是什么导致了这些模型做出的预测，科学家们将其视为黑盒。当这些系统被用于辅助高风险决策时，能够理解、验证和证明模型得出的结论是极其重要的。用于深入了解黑盒模型的研究技术属于可解释人工智能（XAI）领域。在本文中，我们在两个训练用于从组织病理学图像中分类肺癌的卷积神经网络模型上评估了三种不同的 XAI 方法。我们将输出可视化并分析了这些方法的性能，以便更好地了解如何在医学领域应用可解释人工智能。