面向视觉模型的结构剪枝全面研究
人工智能
2025-01-22 v7
摘要
结构剪枝已成为产生更高效模型的有前景的方法。然而，社区缺乏标准化的基准和指标，导致该领域的进展未得到充分理解。为填补这一空白，我们提出了首个综合基准，称为PruningBench，用于结构剪枝。PruningBench展示了以下三个特征：1) PruningBench采用统一且一致的框架来评估多种结构剪枝技术的有效性；2) PruningBench系统性地评估了16种现有剪枝方法，涵盖广泛的模型（如CNN和ViT）和任务（如分类和检测）；3) PruningBench提供了易于实现的接口，促进未来剪枝方法的实现，使后续研究者能够将自己的工作纳入我们的排行榜。我们提供了一个在线剪枝平台，用于自定义剪枝任务和复现本文的所有结果。排行榜结果也可获得。
关键词
引用
@article{arxiv.2406.12315,
title = {A Comprehensive Study of Structural Pruning for Vision Models},
author = {Changhao Li and Haoling Li and Mengqi Xue and Gongfan Fang and Sheng Zhou and Zunlei Feng and Huiqiong Wang and Mingli Song and Jie Song},
journal= {arXiv preprint arXiv:2406.12315},
year = {2025}
}
备注
This paper aims to introduce an evaluation benchmark for structural pruning. The complete text spans 25 pages