NeuroMoCo：一种面向脉冲神经网络的神经形态动量对比学习方法
计算机视觉与模式识别
2024-07-02 v1 人工智能
摘要
近年来，受大脑启发的脉冲神经网络（SNNs）因其固有的生物可解释性、事件触发特性以及对时空信息的强大感知能力而引起了极大的研究关注，这有利于处理基于事件的神经形态数据集。与传统的静态图像数据集相比，基于事件的神经形态数据集由于其独特的时间序列和稀疏性特征，在特征提取上呈现出更高的复杂性，从而影响了其分类准确率。为克服这一挑战，本文引入了一种称为神经形态动量对比学习（NeuroMoCo）的新方法，通过将自监督预训练的优势扩展到 SNNs 来有效激发其潜力。这是首次在 SNNs 中实现基于动量对比学习的自监督学习（SSL）。此外，我们设计了一种名为 MixInfoNCE 的新损失函数，以适应其时间特性，从而进一步提高神经形态数据集的分类准确率，这通过严格的消融实验得到了验证。最后，在 DVS-CIFAR10、DVS128Gesture 和 N-Caltech101 上的实验表明，本文的 NeuroMoCo 建立了新的最先进（SOTA）基准：分别为 83.6%（Spikformer-2-256）、98.62%（Spikformer-2-256）和 84.4%（SEW-ResNet-18）。
引用
@article{arxiv.2406.06305,
title = {NeuroMoCo: A Neuromorphic Momentum Contrast Learning Method for Spiking Neural Networks},
author = {Yuqi Ma and Huamin Wang and Hangchi Shen and Xuemei Chen and Shukai Duan and Shiping Wen},
journal= {arXiv preprint arXiv:2406.06305},
year = {2024}
}
备注
32 pages,4 figures,4 tables