EZCrop：面向鲁棒输出剪枝的能量分区通道方法
图像与视频处理
2021-05-12 v2 机器学习
摘要
近期研究揭示了一个有趣现象：在训练好的卷积神经网络（CNN）中，特征图通道矩阵的秩在输入图像变化时保持惊人地恒定。这催生了一种有效的基于秩的通道剪枝算法，然而该恒定秩现象仍神秘且未被解释。本文旨在从频域视角揭开并解释此种秩行为之谜，并由此附带地提出了一种基于快速傅里叶变换（FFT）的极高效率度量，用于衡量通道重要性而无需显式计算其秩。我们基于这一解析可靠且计算高效的度量实现了显著的 CNN 通道剪枝，并将其用于重复剪枝，通过我们命名为 Energy-Zoned Channels for Robust Output Pruning（EZCrop，能量分区通道鲁棒输出剪枝）的方案展示鲁棒性，其结果表明一致优于其他最先进的通道剪枝方法。
引用
@article{arxiv.2105.03679,
title = {EZCrop: Energy-Zoned Channels for Robust Output Pruning},
author = {Rui Lin and Jie Ran and Dongpeng Wang and King Hung Chiu and Ngai Wong},
journal= {arXiv preprint arXiv:2105.03679},
year = {2021}
}