超越黑盒：更复杂的深度学习模型能提供更优的XAI解释吗？
计算机视觉与模式识别
2024-10-08 v2 人工智能
机器学习
图像与视频处理
摘要
人工智能模型日益增加的复杂性给可解释性带来了挑战，尤其是在医疗保健领域。本研究利用四种ResNet架构（ResNet-18、34、50、101），探讨了深度学习模型复杂性与可解释人工智能（XAI）效能的影响。通过对4,369张感染COVID-19和健康患者的肺部X光图像进行系统性实验，该研究评估了模型的分类性能以及相应的XAI解释相对于真实疾病掩码的相关性。结果表明，模型复杂性的增加伴随着分类准确率和AUC-ROC分数的下降（ResNet-18：98.4%，0.997；ResNet-101：95.9%，0.988）。值得注意的是，在进行的十二项统计检验中，有十一项显示训练模型之间的XAI定量指标——相关性排名准确率和提出的正向归因比率——没有出现统计学上的显著差异。这些结果表明，模型复杂性的增加并不一定会带来更高的性能或对模型决策过程解释的更高相关性。
引用
@article{arxiv.2405.08658,
title = {Beyond the Black Box: Do More Complex Deep Learning Models Provide Superior XAI Explanations?},
author = {Mateusz Cedro and Marcin Chlebus},
journal= {arXiv preprint arXiv:2405.08658},
year = {2024}
}
备注
15 pages, 9 figures, 5 tables