一种基于交互的方法论：通过更好理解肺炎胸部X射线图像实现可解释人工智能
机器学习
2021-11-25 v3 计算机视觉与模式识别
应用统计
摘要
在可解释人工智能（XAI）领域，卷积神经网络（CNNs）等鲁棒的“黑箱”算法以高预测性能著称。然而，解释和解读这些算法的能力仍需要在理解直接或间接影响预测性能的有影响力且更重要的是可解释的特征方面进行创新。文献中存在的许多方法侧重于可视化技术，但可解释性和可解读性的概念仍需要严格的定义。鉴于上述需求，本文提出一种基于交互的方法论——影响分数（I-score）——以筛除图像中的噪声和非信息性变量，从而营造一个具有与特征预测性直接相关的可解释和可解读特征的环境。我们将所提方法应用于肺炎胸部X射线图像数据集这一真实世界应用，并取得了最先进（state-of-the-art）的结果。我们展示了如何通过提高可解释性和可解读性而不牺牲预测性能，将所提方法应用于更通用的数据问题。本文的贡献开辟了一个新颖的角度，使社区更接近XAI问题的未来流程。
引用
@article{arxiv.2104.12672,
title = {A Novel Interaction-based Methodology Towards Explainable AI with Better Understanding of Pneumonia Chest X-ray Images},
author = {Shaw-Hwa Lo and Yiqiao Yin},
journal= {arXiv preprint arXiv:2104.12672},
year = {2021}
}