基于多智能体强化学习的深度卷积神经网络动态灵敏度滤波剪枝
计算机视觉与模式识别
2025-09-09 v1
摘要
深度卷积神经网络在 various computer vision 任务中取得了最前沿的性能，但其实际部署受到计算和内存开销的限制。本文引入了微分灵敏度融合剪枝（Differential Sensitivity Fusion Pruning），这是一种新颖的单次滤波剪枝框架，侧重于评估滤波重要性得分在多个准则下的稳定性和冗余性。微分灵敏度融合剪枝通过融合梯度基于灵敏度、一阶泰勒展开和激活分布 KL 散度的差异，为每个滤波计算微分灵敏度得分。应用指数缩放机制以强调在不同指标上不一致的滤波，从而识别出在结构上不稳定或对模型性能不够关键的候选滤波。与迭代或基于强化学习的剪枝策略不同，微分灵敏度融合剪枝高效且确定，只需一次前向-反向传播即可完成评分和剪枝。在从 50% 到 70% 的不同剪枝率范围内进行的大量实验表明，微分灵敏度融合剪枝显著降低了模型复杂度，在保持高准确率的同时，将浮点运算速度（Floating point Operations Per Seconds）降低超过 80%。例如，在 70% 剪枝率下，本方法可保留最高 98.23% 的基准准确率，超越传统启发式方法在压缩和泛化能力方面的表现。该方法为面向边缘和移动平台的高效部署提供了可扩展且自适应的深度卷积神经网络压缩解决方案。
引用
@article{arxiv.2509.05446,
title = {Dynamic Sensitivity Filter Pruning using Multi-Agent Reinforcement Learning For DCNN's},
author = {Iftekhar Haider Chowdhury and Zaed Ikbal Syed and Ahmed Faizul Haque Dhrubo and Mohammad Abdul Qayum},
journal= {arXiv preprint arXiv:2509.05446},
year = {2025}
}
备注
This paper includes figures and two tables, and our work outperforms the existing research that has been published in a journal