中文

LUNA:面向EEG信号分析的高效且拓扑无关性基础模型

机器学习 2025-10-28 v1 人工智能

摘要

脑电图(EEG)提供了对人类脑活动的非侵入性视角,但受限于拓扑异构性:每个公共EEG数据定义其自身的电极布局,限制了模型的泛化能力。我们引入LUNA(Latent Unified Network Architecture),一种自监督基础模型,通过学习查询和跨注意力机制将多电极EEG压缩为固定大小的、拓扑无关的潜在空间,从而实现线性规模——而非二次规模——随电极数量的扩展。下游变换器块随后仅 operate on此潜在表示,使用基于patch的时序自注意力,使计算与电极数量解耦。该模型基于TUEG和Siena数据进行预训练,涵盖超过21,000小时的原始EEG数据,覆盖多种电极布局,采用掩码patch重建目标进行训练。LUNA能够有效迁移到四个下游任务:异常检测、伪影消除、减慢分类和情感识别。在多个基准测试中表现出竞争力, 在TUAR和TUSL上实现最先进的结果,例如在TUAR上达到0.921的AUROC,同时将FLOPs降低300倍,将GPU内存使用降低最高可达10倍。这些收益在所有评估的电极配置下均保持一致。代码已公开于https://github.com/pulp-bio/BioFoundation

关键词

引用

@article{arxiv.2510.22257,
  title  = {LUNA: Efficient and Topology-Agnostic Foundation Model for EEG Signal Analysis},
  author = {Berkay Döner and Thorir Mar Ingolfsson and Luca Benini and Yawei Li},
  journal= {arXiv preprint arXiv:2510.22257},
  year   = {2025}
}

备注

NeurIPS camera-ready version, 27 pages, 10 figures, 13 tables