中文

LuMamba:用于电极拓扑无关且高效 EEG 模型的潜在统一 Mamba

人工智能 2026-03-20 v1

摘要

脑电图(EEG)使非侵入式监测脑活动成为可能,尽管在临床和神经技术应用中建立基础模型仍具有挑战性,由于”不同电极拓扑”和”计算可扩展性”,Transformer 架构因其二次序列复杂度而面临挑战。作为联合解决方案,我们提出”LuMamba”(”L**atent** **U**nified **M**amba”),一个自监督框架,结合拓扑无关编码与线性复杂度状态空间建模,采用 LUNA 的学习查询跨注意力机制进行通道统一~“luna”,以及 FEMBA 的双向 Mamba 块进行高效的时间建模~“femba”。在此架构中,我们提供了首个系统性地探讨潜在-欧几里得联合嵌入预测架构(LeJEPA)用于生物信号学习的研究。在TUEG语料库中进行预训练,基于超过21,000小时的无标签EEG数据,LuMamba在从16至26个电极配置的五个下游任务上进行评估,涵盖异常检测、伪迹识别和心理状况分类。在预训练目标中,仅使用掩码重建会产生结构化但不够通用的表示,而LeJEPA单独使用会产生稀疏嵌入;将两者结合可实现最佳性能。LuMamba仅需460万参数,即可在TUAB上实现80.99%的平衡准确率,在阿尔茨海默病检测上达到0.97的AUPR,同时比当前最先进模型所需的FLOPS数目少377倍,在达到典型GPU内存限制前还能扩展至12倍的序列长度。代码已公开于https://github.com/pulp-bio/biofoundation

关键词

引用

@article{arxiv.2603.19100,
  title  = {LuMamba: Latent Unified Mamba for Electrode Topology-Invariant and Efficient EEG Modeling},
  author = {Danaé Broustail and Anna Tegon and Thorir Mar Ingolfsson and Yawei Li and Luca Benini},
  journal= {arXiv preprint arXiv:2603.19100},
  year   = {2026}
}

备注

5 pages, 2 figures, 4 tables