FGFP:分数高斯滤波与剪枝用于深度神经网络压缩
机器学习
2025-07-31 v1 计算机视觉与模式识别
摘要
深度神经网络 (DNN) 的参数负载在实际应用中对边缘设备构成较大挑战。虽然许多方法压缩神经网络参数,但在边缘设备上部署这些模型仍然具有挑战性。为此,我们提出了分数高斯滤波和剪枝 (FGFP) 框架,将分数阶微积分与高斯函数相结合构建分数高斯滤波器 (FGF)。为降低分数阶微分运算的计算复杂度,我们引入格鲁恩-莱特nikov分数导数来近似分数阶微分方程。FGF 中每个卷积核的参数仅为七个。除了分数高斯滤波器的网络结构外,我们的 FGFP 框架还集成了自适应非结构化剪枝 (AUP),以实现更高的压缩比率。在 various architectures and benchmarks 上的实验表明,我们的 FGFP 框架在准确率和压缩性能上均优于最新方法。在 CIFAR-10 上,ResNet-20 仅实现 1.52\% 的准确率下降,模型大小降低 85.2\%;在 ImageNet2012 上,ResNet-50 仅实现 1.63\% 的准确率下降,模型大小降低 69.1\%。
引用
@article{arxiv.2507.22527,
title = {FGFP: A Fractional Gaussian Filter and Pruning for Deep Neural Networks Compression},
author = {Kuan-Ting Tu and Po-Hsien Yu and Yu-Syuan Tseng and Shao-Yi Chien},
journal= {arXiv preprint arXiv:2507.22527},
year = {2025}
}
备注
8 pages, 2 figures, 4 tables, Accepted by ICML 2025 Workshop (TTODLer-FM)