面向精准二值脉冲神经网络：基于自适应梯度调制机制的学习

二值脉冲神经网络（BSNN）继承了 SNN 的事件驱动范式，同时采用了二值化技术的存储负载降低优势。这种独特的优势赋予了 BSNN 轻量级和能源效率特性，使其适用于资源受限的边缘设备。然而，由于二值突触权重和非可微的脉冲函数，有效训练 BSNN 仍是一个开放问题。本文深入分析了 BSNN 学习的挑战，即频繁的权重符号翻转问题。为缓解此问题，我们提出了自适应梯度调制机制（AGMM），旨在通过自适应调整学习过程中梯度来减少权重符号翻转的频率。所提出的 AGMM 使 BSNN 能够实现更快的收敛速度和更高的准确率，有效缩小了 BSNN 与其全精度等价物之间的差距。我们在静态数据集和神经形态数据集上验证了 AGMM，结果表明它在 BSNN 中实现了状态最前沿的结果。这一工作大幅度减少了存储需求，增强了 SNN 的固有能源效率，使其在资源受限环境中具有高度可行性。