InfLoR-SNN：减少脉冲神经网络的信息损失
神经与进化计算
2023-08-21 v2 计算机视觉与模式识别
摘要
脉冲神经网络（SNN）近年来吸引了越来越多的关注。它采用二值脉冲信号来传递信息。得益于 SNN 的信息传递范式，激活值与权重的乘法可被加法替代，从而更加节能。然而，其用于发放活动的“硬重置（Hard Reset）”机制会忽略膜电位高于发放阈值时的差异，导致信息损失。同时，在发放时刻将膜量化为 0/1 脉冲不可避免地引入量化误差，从而也带来信息损失。为解决这些问题，我们提出对基于监督训练的 SNN 使用“软重置（Soft Reset）”机制，该机制会根据膜电位大小将其驱动至动态重置电位，并采用膜电位整流器（MPR）通过将膜电位重分配至接近脉冲的范围来减小量化误差。结果表明，带有“软重置”机制和 MPR 的 SNN 在静态与动态数据集上均优于其原始对应模型。
引用
@article{arxiv.2307.04356,
title = {InfLoR-SNN: Reducing Information Loss for Spiking Neural Networks},
author = {Yufei Guo and Yuanpei Chen and Liwen Zhang and Xiaode Liu and Xinyi Tong and Yuanyuan Ou and Xuhui Huang and Zhe Ma},
journal= {arXiv preprint arXiv:2307.04356},
year = {2023}
}
备注
Accepted by ECCV2022