从聪明汉斯到科学发现：用 LRP 解释 EEG 基础 Transformer
人工智能
2026-05-18 v1 神经元与认知
摘要
脑电图领域新兴的基础模型有望在数据稀缺的情况下，为诊断和脑机接口中的深度学习开辟一条规模化路径，然而其不透明的本质仍然是更广泛应用的障碍。我们研究了注意力感知的逐层相关性传播作为 EEG 基础模型的事后归因方法，将 LRP 在基于卷积神经网络的 EEG 模型上的应用扩展到当前基础模型所基于的 Transformer 架构。我们发现，LRP 既可以验证 EEG 基础模型的决策，也可以从中发现新颖的、生物学上合理的假设。在运动想象中，它揭示了“Clever Hans”行为，即模型优先考虑与任务相关的眼动信号，而非预期的运动相关信号。在用于情感预测的自然范式中，它揭示了对中央电极簇的反复依赖，暗示了一个候选的感觉运动唤醒特征。尽管在这个复杂领域中热图解释仍然存在歧义，但结果将 LRP 定位为一种用于验证和探索 EEG 基础模型的工具，随着底层模型的成熟，这一角色在重要性和发现潜力方面都将增长。
引用
@article{arxiv.2605.11885,
title = {From Clever Hans to Scientific Discovery: Interpreting EEG Foundational Transformers with LRP},
author = {Justus Meyer zu Bexten and Nico Scherf and Bogdan Franczyk and Simon M. Hofmann},
journal= {arXiv preprint arXiv:2605.11885},
year = {2026}
}
备注
18 pages, 6 figures