Joint A-SNN：基于自蒸馏与权重分解的人工与脉冲神经网络联合训练
计算机视觉与模式识别
2023-05-04 v1
摘要
作为受生物学启发的方法，脉冲神经网络（SNN）模拟脑神经元的脉冲特性，已受到大量研究关注。SNN 以其二值脉冲作为激活，因此在硬件上具备极致的能效。然而，这也带来一个固有障碍：从零训练 SNN 需重新定义发放函数以计算梯度。而人工神经网络（ANN）完全可微，可用梯度下降训练。本文提出一种 ANN 与 SNN 的联合训练框架，其中 ANN 可引导 SNN 的优化。该联合框架包含两部分：首先，利用网络的多分支将 ANN 内部知识蒸馏至 SNN；其次，我们对 ANN 与 SNN 的参数加以约束，使其共享部分参数并学习不同的奇异权重。在多个广泛使用的网络结构上的大量实验表明，我们的方法持续优于许多其他最先进的训练方法。例如，在 CIFAR100 分类任务上，由本方法训练的脉冲 ResNet-18 模型仅用 4 个时间步即可达到 77.39% 的 top-1 准确率。
引用
@article{arxiv.2305.02099,
title = {Joint A-SNN: Joint Training of Artificial and Spiking Neural Networks via Self-Distillation and Weight Factorization},
author = {Yufei Guo and Weihang Peng and Yuanpei Chen and Liwen Zhang and Xiaode Liu and Xuhui Huang and Zhe Ma},
journal= {arXiv preprint arXiv:2305.02099},
year = {2023}
}
备注
Accepted by Pattern Recognition