超越分类:直接训练脉冲神经网络用于语义分割
计算机视觉与模式识别
2021-10-18 v1
摘要
脉冲神经网络(SNNs)因其稀疏、异步和二进制事件驱动的处理方式,最近已成为人工神经网络(ANNs)的低功耗替代方案。由于其能效,SNNs极有可能被部署到现实世界中资源受限的系统,如自动驾驶汽车和无人机上。然而,由于其不可微且复杂的神经元动力学,大多数先前的SNN优化方法仅限于图像识别。在本文中,我们探索了SNN在分类之外的应用,并提出了由脉冲神经元构成的语义分割网络。具体来说,我们首先在语义分割数据集上研究了两种用于识别任务的代表性SNN优化技术(即ANN-SNN转换和替代梯度学习)。我们观察到,当从ANN转换而来时,由于特征的空间方差,SNN存在高延迟和低性能的问题。因此,我们直接使用替代梯度学习训练网络,从而获得比ANN-SNN转换更低的延迟和更高的性能。此外,我们为SNN领域重新设计了两种基本的ANN分割架构(即全卷积网络和DeepLab)。我们在两个公开的语义分割基准上进行了实验,包括PASCAL VOC2012数据集和DDD17事件相机数据集。除了展示SNN用于语义分割的可行性之外,我们还表明,在该领域中,SNN可以比其ANN对应物更鲁棒、更节能。
引用
@article{arxiv.2110.07742,
title = {Beyond Classification: Directly Training Spiking Neural Networks for Semantic Segmentation},
author = {Youngeun Kim and Joshua Chough and Priyadarshini Panda},
journal= {arXiv preprint arXiv:2110.07742},
year = {2021}
}