基于基表示与谱微调的深度CNN压缩
计算机视觉与模式识别
2021-05-24 v1
摘要
我们提出一种高效且直接的深度卷积神经网络（CNN）压缩方法，其使用基滤波器表示卷积层，并直接在基空间中优化压缩网络的性能。具体而言，CNN的任何空间卷积层均可由两个连续卷积层替代：第一个是一组三维正交基滤波器，其后接一层一维滤波器，该层在基空间中表示原始空间滤波器。我们联合微调基与滤波器表示，以直接缓解因截断引起的任何性能损失。所提方法的通用性通过将之应用于若干知名深度CNN架构及用于图像分类与目标检测的数据集得以证明。我们还给出了在Xavier Jetson AGX处理器上不同压缩级别下的执行时间与功耗。
引用
@article{arxiv.2105.10436,
title = {Compressing Deep CNNs using Basis Representation and Spectral Fine-tuning},
author = {Muhammad Tayyab and Fahad Ahmad Khan and Abhijit Mahalanobis},
journal= {arXiv preprint arXiv:2105.10436},
year = {2021}
}
备注
arXiv admin note: text overlap with arXiv:1906.04509