通过空间光环熵加速卷积神经网络剪枝
计算机视觉与模式识别
2023-12-11 v1 机器学习
摘要
近年来，剪枝已成为降低卷积神经网络(CNN)模型计算复杂度和内存占用的一种流行技术。互信息(MI)被广泛用作识别不重要滤波器进行剪枝的标准。然而，现有的MI计算方法存在计算成本高和对噪声敏感的问题，导致剪枝性能次优。我们提出了一种利用空间光环熵改进CNN剪枝中MI计算的新方法。空间光环熵有助于评估邻域内神经激活分布的异质性，提供局部特征信息。我们的方法有效改进了CNN剪枝的MI计算，从而实现了更鲁棒和高效的剪枝。在CIFAR-10基准数据集上的实验结果表明，我们的方法在剪枝性能和计算效率方面具有优越性。
引用
@article{arxiv.2312.04926,
title = {Accelerating Convolutional Neural Network Pruning via Spatial Aura Entropy},
author = {Bogdan Musat and Razvan Andonie},
journal= {arXiv preprint arXiv:2312.04926},
year = {2023}
}