SpikingMoE：基于突触驱动的 Transformer 中的 SDPrompt 指导下的动态专家融合
神经与进化计算
2026-05-25 v1
摘要
脉冲神经网络 (SNN) 提供了一种高效的视觉识别范式。我们提出 SpikingMoE，将脉冲驱动的 Transformer 与 Mixture-of-Experts (MoE) 框架集成，用于动态计算。受侧网细胞核 (LGN) 启发，脉冲驱动提示 (SDprompt) 以生物学方式实现输入依赖的专家路由。通过将标准 MLP 替换为脉冲兼容的专家模块并强制二进制脉冲通信，SpikingMoE 设计用于神经器件硬件。在 CIFAR-10 和 CIFAR-100 上的实验实现了 94.09% 和 74.54% 的 Top-1 准确率，表明在保持合理性能的同时，可 incorpor 模块化专家路由。据我们了解，SpikingMoE 是首个将 MoE 集成到脉冲驱动 Transformer 中并采用 LGN 启发式路由的开源 SNN 框架。
引用
@article{arxiv.2605.23188,
title = {SpikingMoE: SDPrompt-Guided Dynamic Expert Fusion in Spiking Neural Networks},
author = {Yukai Yang and Chenxi Qin and Jungang Li and Xin Zhang and Wenwei Shao and Liqun Chen},
journal= {arXiv preprint arXiv:2605.23188},
year = {2026}
}