CCSRP：通过协同进化实现脉冲神经网络的鲁棒剪枝
神经与进化计算
2024-08-05 v1 人工智能
计算机视觉与模式识别
摘要
脉冲神经网络（SNN）在各种动态视觉任务中展现出前景，但那些已准备好实际部署的网络往往缺乏在资源受限和安全关键设置中所必需的紧凑性和鲁棒性。先前的研究主要集中于通过诸如网络剪枝和对抗训练等策略增强人工神经网络的紧凑性或鲁棒性，而对SNN的类似方法论探索甚少。SNN的鲁棒剪枝旨在在保持准确率和鲁棒性的同时降低计算开销。现有的鲁棒剪枝方法通常需要专家知识和迭代实验来建立合适的剪枝标准或辅助模块，从而限制了其更广泛的应用。与此同时，进化算法（EAs）已被用于自动化人工神经网络的剪枝，取得了显著成果，但忽略了鲁棒性方面。在本工作中，我们提出了CCSRP，一种基于协同进化的SNN创新鲁棒剪枝方法。鲁棒剪枝被表述为一个三目标优化挑战，旨在同时平衡准确率、鲁棒性和紧凑性，通过协同进化剪枝框架解决，该框架使用EAs独立地对各层中的滤波器进行剪枝。我们在CIFAR-10和SVHN上的实验表明，CCSRP可以匹配或超越最新方法。
引用
@article{arxiv.2408.00794,
title = {CCSRP: Robust Pruning of Spiking Neural Networks through Cooperative Coevolution},
author = {Zichen Song and Jiakang Li and Songning Lai and Sitan Huang},
journal= {arXiv preprint arXiv:2408.00794},
year = {2024}
}