通过探索脉冲神经网络中的彩票票获取稀疏奖励

在计算受限设备（如机器人）上部署高能效深度学习算法，仍是实际应用中的紧迫问题。脉冲神经网络（SNNs）作为一种受脑启发的新型算法，凭借相较于传统人工神经网络（ANNs）的低延迟与低能耗特性，提供了有前景的解决方案。尽管具备优势，深度 SNNs 的稠密结构仍可能导致额外能耗。彩票票假设（LTH）认为，在稠密神经网络中存在可不经性能折损获得的获胜彩票票（LTs），即子网络。受此启发，本文深入探究基于脉冲的 LTs（SLTs），考察其独特性质与极致效率的潜力。随后，通过对不同稠密结构上的 SLTs 进行全面探索与精细实验，获得了两项显著的稀疏 \textbf{\textit{奖励}}。此外，提出了一种面向脉冲 transformer 结构的稀疏算法，其将卷积操作融入块嵌入投影（ConvPEP）模块，以实现多级稀疏（MultiSp）。MultiSp 指 (1) 块数量稀疏；(2) ConvPEP 权重稀疏化与二值化；以及 (3) ConvPEP 激活层二值化。大量实验表明，我们的方法以微小性能下降实现了极致稀疏性，为在机器人及更广泛领域部署高能效神经网络铺平了道路。