脉冲神经网络的监督训练以实现在混合信号神经形态处理器上的鲁棒部署
机器学习
2022-09-13 v4
摘要
混合信号模拟/数字电路以极高能效模拟脉冲神经元与突触，这种方法被称为“神经形态工程”。然而，模拟电路对芯片内晶体管间由工艺引起的差异（“器件失配”）敏感。对于脉冲神经网络（SNN）的神经形态实现，失配导致配置相同的神经元与突触间参数变化。每块芯片表现出不同的神经参数分布，致使部署的网络在不同芯片间响应不同。当前基于每芯片校准或片上学习来缓解失配的方案增加了设计复杂度、面积与成本，使神经形态器件的部署昂贵且困难。在此我们提出一种监督学习方法，可生成对失配及其他常见噪声源具有高鲁棒性的 SNN。我们的方法通过模仿预训练动力系统，使用来自非线性控制理论的局部学习规则来训练 SNN 执行时间分类任务。我们在两个需要记忆的任务上演示了该方法，并度量了我们对多种噪声与失配形式的鲁棒性。我们表明该方法比常见的 SNN 训练替代方案更鲁棒。我们的方法实现了预训练网络在混合信号神经形态硬件上的鲁棒部署，无需逐器件训练或校准。
引用
@article{arxiv.2102.06408,
title = {Supervised training of spiking neural networks for robust deployment on mixed-signal neuromorphic processors},
author = {Julian Büchel and Dmitrii Zendrikov and Sergio Solinas and Giacomo Indiveri and Dylan R. Muir},
journal= {arXiv preprint arXiv:2102.06408},
year = {2022}
}