PnPXAI：面向多模态与多模型的通用 XAI 框架
机器学习
2025-05-16 v1 人工智能
摘要
最近，后置解释方法涌现出来，通过归因模型输出来输入特征来增强模型透明度。然而，这些方法面临由于特定于神经网络架构和数据模态性质的挑战。现有可解释人工智能（XAI）框架试图解决这些挑战，但存在若干局限，包括：由于硬编码实现，灵活性受限于多样化的模型架构和数据模态；由于归因方法对层级特定操作的要求，支持的 XAI 方法数量受限；由于缺乏评估和优化阶段，解释推荐次优。这些局限阻碍了 XAI 技术在实际应用中的采用，使实践者难以为其领域选择最优解释方法。为此，我们引入\textbf{PnPXAI}，一个以插即用（Plug-and-Play）方式支持多样数据模态和神经网络模型的通用 XAI 框架。PnPXAI 自动检测模型架构，推荐适用且优化解释方法的超参数，以获得最优解释。我们通过用户调查验证框架有效性，并展示其在医疗和金融等多个领域的多样性。
引用
@article{arxiv.2505.10515,
title = {PnPXAI: A Universal XAI Framework Providing Automatic Explanations Across Diverse Modalities and Models},
author = {Seongun Kim and Sol A Kim and Geonhyeong Kim and Enver Menadjiev and Chanwoo Lee and Seongwook Chung and Nari Kim and Jaesik Choi},
journal= {arXiv preprint arXiv:2505.10515},
year = {2025}
}