DCT-SNN：利用 DCT 将空间信息分布于时间中以学习低延迟脉冲神经网络
机器学习
2020-10-06 v1 计算机视觉与模式识别
机器学习
摘要
脉冲神经网络（SNNs）为传统深度学习框架提供了一种有前景的替代方案，因为它们通过事件驱动的信息处理提供了更高的计算效率。SNN 将像素强度的模拟值随时间分布为二值脉冲。然而，最广泛使用的输入编码方案，例如基于泊松的速率编码，并未有效利用 SNN 额外的时序学习能力。此外，这些 SNN 存在高推理延迟，这是其部署的主要瓶颈。为克服这一点，我们提出了一种可扩展的基于时间的编码方案，利用离散余弦变换（DCT）来减少推理所需的时间步数。DCT 将图像分解为正弦基图像的加权和。在每个时间步，按顺序取 DCT 系数与单一频率基的哈达玛积，输入给累加器，其在超过阈值时生成脉冲。我们使用所提方案学习 DCT-SNN，一种具有漏积分放电神经元、使用基于替代梯度下降的反向传播训练的低延迟深度 SNN。我们在 CIFAR-10、CIFAR-100 和 TinyImageNet 上分别使用 VGG 架构取得了 89.94%、68.3% 和 52.43% 的 top-1 准确率。值得注意的是，DCT-SNN 与其他最先进 SNN 相比推理延迟减少了 2-14 倍，同时取得了与其标准深度学习对应模型相当的准确率。变换的维度使我们能够控制推理所需的时间步数。此外，我们可通过在推理时丢弃最高频率分量，以原则性方式权衡准确率与延迟。
引用
@article{arxiv.2010.01795,
title = {DCT-SNN: Using DCT to Distribute Spatial Information over Time for Learning Low-Latency Spiking Neural Networks},
author = {Isha Garg and Sayeed Shafayet Chowdhury and Kaushik Roy},
journal= {arXiv preprint arXiv:2010.01795},
year = {2020}
}
备注
The first two authors contributed equally to this paper