解释性人工智能方法的比较研究：模型无关 vs. 模型特定方法
人工智能
2025-04-08 v1
摘要
本文比较了模型无关方法和模型特定方法在深度学习图像分类中的解释性人工智能(XAI)。我检查了LIME和SHAP(模型无关方法)与Grad-CAM和Guided Backpropagation(模型特定方法)在解释ResNet50预测时之间的差异，针对各种图像类别进行广泛测试，包括来自狗、鸟类和昆虫等不同物种。我发现每种方法都揭示了模型决策过程的不同方面。模型无关技术提供更广泛的特征归因，可跨不同架构工作，而模型特定方法在突出显示精确激活区域方面更具计算效率。我的分析显示，没有“通用解决方案”适用于模型可解释性。相反，组合多种XAI方法对于理解复杂模型特别有价值，这在像医疗保健、自动驾驶和金融服务等高风险领域中尤为重要，因为透明度至关重要。本比较框架为根据特定应用需求和计算约束选择合适的可解释性技术提供了实用指导。
引用
@article{arxiv.2504.04276,
title = {A Comparative Study of Explainable AI Methods: Model-Agnostic vs. Model-Specific Approaches},
author = {Keerthi Devireddy},
journal= {arXiv preprint arXiv:2504.04276},
year = {2025}
}