RANP：面向 3D CNN 的初始化时资源感知神经元剪枝
计算机视觉与模式识别
2021-03-16 v1 人工智能
摘要
尽管 3D 卷积神经网络对于大多数涉及密集 3D 数据的基于学习的应用至关重要，但由于过高的内存与计算需求，其实用性受到限制。因此，通过剪枝压缩此类网络变得极为可取。然而，3D CNN 的剪枝在很大程度上未被探索，可能是因为典型剪枝算法将剪枝嵌入迭代优化范式的复杂性。在本工作中，我们引入一种资源感知神经元剪枝（RANP）算法，在初始化时将 3D CNN 剪枝至高度稀疏水平。具体而言，核心思想是基于神经元对损失函数的敏感度获得每个神经元的重要性分数。然后根据与 FLOPs 或内存相关的神经元资源消耗对该神经元重要性进行重新加权。我们在 3D 语义分割（在 ShapeNet 和 BraTS'18 数据集上使用广泛使用的 3D-UNets）、视频分类（在 UCF101 数据集上使用 MobileNetV2 和 I3D）以及双视图立体匹配（在 SceneFlow 数据集上使用 Pyramid Stereo Matching (PSM) 网络）上展示了我们剪枝方法的有效性。在这些实验中，与未剪枝网络相比，我们的 RANP 带来约 50%-95% 的 FLOPs 降低和 35%-80% 的内存降低，且精度损失可忽略。这显著减少了训练 3D CNN 所需的计算资源。我们算法获得的剪枝网络也可轻松扩展并迁移至另一数据集进行训练。
引用
@article{arxiv.2103.08457,
title = {RANP: Resource Aware Neuron Pruning at Initialization for 3D CNNs},
author = {Zhiwei Xu and Thalaiyasingam Ajanthan and Vibhav Vineet and Richard Hartley},
journal= {arXiv preprint arXiv:2103.08457},
year = {2021}
}
备注
this is an extension of our 3DV2020 conference paper RANP. arXiv admin note: substantial text overlap with arXiv:2010.02488