基于 XAI 的神经网络捷径学习分析
机器学习
2025-04-23 v1 计算机视觉与模式识别
摘要
机器学习模型倾向于学习虚假特征——这些特征与目标标签高度相关但并非因果。现有方法在某些情况下能缓解模型对虚假特征的依赖，但在其他情况下则失败。本文系统性地分析了神经网络如何以及在何处编码虚假相关性。我们引入神经元虚假得分，这是一种基于 XAI 的诊断措施，用于量化神经元对虚假特征的依赖程度。我们使用特定于体系结构的方法，对卷积神经网络（CNNs）和视觉 Transformer（ViTs）进行分析。我们的结果表明，虚假特征被部分解耦，但解耦程度因模型体系结构而异。此外，我们发现现有缓解方法的假设不完整。我们的结果为开发新的缓解方法并使 AI 模型在实际应用中更安全奠定了基础。
引用
@article{arxiv.2504.15664,
title = {An XAI-based Analysis of Shortcut Learning in Neural Networks},
author = {Phuong Quynh Le and Jörg Schlötterer and Christin Seifert},
journal= {arXiv preprint arXiv:2504.15664},
year = {2025}
}
备注
Accepted at The World Conference on eXplainable Artificial Intelligence 2025 (XAI-2025)