FEMBA on the Edge: 面向超低功耗微控制器的生理感知预训练、量化与部署的双向Mamba EEG基础模型

目标：通过克服基于Transformer的脑电图(EEG)基础模型的计算瓶颈以及状态空间模型(SSM)固有的量化挑战，实现可穿戴设备上的连续长期神经监测。方法：我们提出FEMBA，一种在超过21,000小时EEG数据上预训练的双向Mamba架构。我们引入了一种新颖的生理感知预训练目标，由带低通滤波的重构组成，以优先处理神经振荡而非高频伪影。为解决SSM中常见的激活异常值，我们采用量化感知训练(QAT)将模型压缩至2位权重。该框架通过自定义双缓冲内存流方案部署在并行超低功耗RISC-V微控制器(GAP9)上。结果：所提出的低通预训练在下游TUAB上的AUROC从0.863提升至0.893，AUPR从0.862提升至0.898，优于最佳对比学习基线。QAT成功压缩权重且性能损失可忽略，而标准后训练量化使准确率下降约\textbf{30\%}。嵌入式实现实现了确定性实时推理(\textbf{1.70~s}每5~s窗口)，并将内存占用减少\textbf{74\%}(至约$\approx$2 MB)，以高达\textbf{27$\times$}少的FLOPs实现了与Transformer基准相当的准确率。结论：FEMBA证明了基于Mamba的基础模型可以在不牺牲稳健临床分析所需表示质量的情况下，有效量化并部署在极端边缘硬件上。意义：本工作建立了首个在超低功耗可穿戴设备上部署大规模EEG基础模型的端到端框架，促进了基于SSM的持续监测，用于癫痫和睡眠障碍。