谱复自编码器剪枝：面向极致结构化通道压缩的保真度引导准则
计算机视觉与模式识别
2026-01-15 v1
摘要
我们提出了谱复自编码器剪枝（SCAP），一种在单个输出通道级别衡量功能冗余的基于重建的准则。对于每个卷积层，我们将完整的多通道输入激活作为实部，与单个输出通道激活（空间对齐并跨输入通道广播）作为虚部配对，构建一个复交互场。我们将该复场转换到频域，并训练一个低容量自编码器来重建归一化频谱。频谱被高保真重建的通道被解释为靠近自编码器捕获的低维流形，因此更具可压缩性；相反，保真度低的通道被保留，因为它们编码了无法由学习到的流形紧凑表示的信息。这产生了一个重要性分数（可选择与滤波器 L1 范数融合），支持简单的基于阈值的剪枝，并产生结构一致的被剪枝网络。在基于 CIFAR-10 训练的 VGG16 上，在固定阈值 0.6 下，我们获得了 90.11% 的 FLOP 减少和 96.30% 的参数减少，在微调后绝对 Top-1 准确率从 93.44% 的基线下降了 1.67%，这证明了复交互场的谱重建保真度是激进压缩下通道级冗余的有效代理。
引用
@article{arxiv.2601.09352,
title = {Spectral Complex Autoencoder Pruning: A Fidelity-Guided Criterion for Extreme Structured Channel Compression},
author = {Wei Liu and Xing Deng and Haijian Shao and Yingtao Jiang},
journal= {arXiv preprint arXiv:2601.09352},
year = {2026}
}
备注
17 pages, 9 figures