评估医学分类模型中属性与原型的可解释性
计算机视觉与模式识别
2024-07-23 v1
摘要
由于医学领域的敏感性，AI方法具有可解释性尤为重要且需求迫切。这一需求已得到认可，学术界对应用于医学领域的xAI解决方案有着极大的研究兴趣。然而，关于解释的实际影响缺乏以用户为中心的评估。我们使用Proto-Caps模型评估了基于属性和原型的解释。该xAI模型以分数和特定属性原型的形式，利用目标对象的人工定义视觉特征对目标分类进行推理。因此，该模型提供了一种多模态解释，得益于预定义的属性，人类可以直观地理解该解释。一项涉及六位放射科医生的用户研究表明，这些解释被主观认为是有帮助的，因为它们反映了医生的决策过程。模型的结果被视为第二意见，放射科医生可以利用模型的解释对其进行讨论。然而，研究表明，当模型预测错误时，纳入模型解释并增大其程度在客观上会增加对模型预测的置信度。我们可以得出结论，属性分数和视觉原型增强了对模型的置信度。然而，仍需进一步开发和反复进行用户研究，以使解释适应各自的具体应用场景。
引用
@article{arxiv.2404.09917,
title = {Evaluating the Explainability of Attributes and Prototypes for a Medical Classification Model},
author = {Luisa Gallée and Catharina Silvia Lisson and Christoph Gerhard Lisson and Daniela Drees and Felix Weig and Daniel Vogele and Meinrad Beer and Michael Götz},
journal= {arXiv preprint arXiv:2404.09917},
year = {2024}
}
备注
Accepted at The 2nd World Conference on eXplainable Artificial Intelligence