脉冲突触惩罚:面向高能效脉冲神经网络的有效惩罚项
机器学习
2024-01-15 v1 神经与进化计算
摘要
脉冲神经网络(SNNs)因其脉冲特性而成为高能效神经网络。然而,随着 SNNs 脉冲发放率增加,能耗也随之上升,从而削弱了其优势。为此,我们在训练阶段的目标函数中引入一种针对脉冲活动的新颖惩罚项来解决该问题。我们的方法旨在不修改网络架构的情况下直接优化能耗度量。因此,所提方法能在保持精度的同时比其他方法更多地降低能耗。我们在图像分类任务上进行了实验,结果表明该方法有效缓解了能量—精度权衡困境。
引用
@article{arxiv.2302.01500,
title = {Spiking Synaptic Penalty: Appropriate Penalty Term for Energy-Efficient Spiking Neural Networks},
author = {Kazuma Suetake and Takuya Ushimaru and Ryuji Saiin and Yoshihide Sawada},
journal= {arXiv preprint arXiv:2302.01500},
year = {2024}
}
备注
19 pages, 5 figures