基于 Metropolis-Hastings 采样的片上环脉冲神经网络训练
神经与进化计算
2024-02-12 v1 计算机视觉与模式识别
摘要
本文研究了在存在强烈未知非理想性的情况下,使用 Metropolis-Hastings 采样来训练脉冲神经网络(SNN)硬件,并将所提出的方法与文献中广泛用于训练 SNN 的误差反向传播算法和替代梯度进行了比较。模拟在片上环训练背景下进行,其中受未知失真影响的 SNN 必须在生物医学应用背景下根据测量值检测癌症。我们的结果表明,在存在强烈硬件非理想性的情况下,所提出的方法显著优于 backprop,准确率最高可提高 。此外,我们的结果还表明,在 SNN 泛化能力方面,所提出的方法优于 backprop,实现有效准确率所需的训练数据减少了 倍。这些发现使得所提出的训练方法非常适合用于模拟亚阈值电路和其他新兴技术中的 SNN 实现,在这些技术中,未知的硬件非理想性可能会危及 backprop。
引用
@article{arxiv.2402.06284,
title = {Towards Chip-in-the-loop Spiking Neural Network Training via Metropolis-Hastings Sampling},
author = {Ali Safa and Vikrant Jaltare and Samira Sebt and Kameron Gano and Johannes Leugering and Georges Gielen and Gert Cauwenberghs},
journal= {arXiv preprint arXiv:2402.06284},
year = {2024}
}