是否放电取决于问题
新兴技术
2025-04-15 v3 神经与进化计算
摘要
神经形态计算最近因各种神经形态处理器的出现而获得了关注。随着该领域的发展，越来越多关注开发能够有效利用脉冲神经网络 (SNN) 独特特性的训练方法。SNN 模拟生物神经元的时序动态，特别适合实时、事件驱动处理。要充分发挥 SNN 在不同神经形态平台上的潜力，有效的训练方法至关重要。在 SNN 中，学习规则基于神经元的放电行为，即当神经元的膜电位超过其放电阈值时发生放电，放电时间编码着关键信息。然而，阈值通常被视为超参数，错误选择可能导致神经元在训练过程中长时间不放电，阻碍有效学习率。本文聚焦于将学习神经元阈值作为可训练参数的重要性。我们的结果表明，将阈值从超参数提升为可训练参数有效解决了训练期间死神经元问题。这导致更稳健的训练算法，显著提高收敛速度，在 NMNIST、DVS128 和 Spiking Heidelberg Digits (SHD) 等时空数据集上实现最高可达 30% 的训练加速，并在准确率上提升最高可达 2%。
引用
@article{arxiv.2407.19566,
title = {To Spike or Not to Spike, that is the Question},
author = {Sanaz Mahmoodi Takaghaj and Jack Sampson},
journal= {arXiv preprint arXiv:2407.19566},
year = {2025}
}
备注
Accepted to Artificial Intelligence Circuits And Systems(AICAS), 2015