人工神经网络与脉冲神经网络之间的交叉知识蒸馏
计算机视觉与模式识别
2025-07-15 v1 人工智能
摘要
最近，脉冲神经网络（SNN）因其高度的生物学合理性、事件驱动特性和节能效率，在计算机视觉领域展现出巨大的潜力。然而，受限于标注事件基数据集和不成熟的SNN架构，其性能仍低于人工神经网络（ANN）。为提升SNN在其最优数据格式（DVS数据）上的性能，我们探索使用RGB数据和表现良好的ANN实现知识蒸馏。在此过程中，必须解决跨模态和跨架构的挑战。本文提出了交叉知识蒸馏（CKD），该方法不仅利用语义相似性和滑动替换来缓解跨模态挑战，还使用间接相位知识蒸馏来缓解跨架构挑战。我们在主流神经形态数据集上进行了验证，包括N-Caltech101和CEP-DVS。实验结果表明，我们的方法在当前的SOTA方法中性能优异。代码将在https://github.com/ShawnYE618/CKD上提供。
引用
@article{arxiv.2507.09269,
title = {Cross Knowledge Distillation between Artificial and Spiking Neural Networks},
author = {Shuhan Ye and Yuanbin Qian and Chong Wang and Sunqi Lin and Jiazhen Xu and Jiangbo Qian and Yuqi Li},
journal= {arXiv preprint arXiv:2507.09269},
year = {2025}
}
备注
This paper has been accepted by ICME2025