Fine-Pruning：基于贝叶斯优化的卷积网络联合微调与压缩
计算机视觉与模式识别
2017-07-31 v1
摘要
在处理特定图像领域的新型视觉识别问题时，一种常见策略是从预训练深度神经网络出发，并将其微调至该特定领域。若目标领域所覆盖的视觉空间小于用于预训练的源领域（如 ImageNet），则微调后的网络很可能存在过参数化问题。然而，将网络剪枝作为后处理步骤以降低内存需求存在以下缺陷：微调与剪枝独立执行；剪枝参数仅设置一次且无法随时间自适应；此外，当前最先进的剪枝方法高度参数化，使得对深度网络的剪枝参数空间进行人工搜索变得不可行，从而导致粗糙的近似。我们提出了一种将预训练卷积网络联合微调与压缩的原则性方法，以克服上述局限性。在两个特定图像领域（遥感图像与可描述纹理）上的实验验证了所提方法的有效性。
引用
@article{arxiv.1707.09102,
title = {Fine-Pruning: Joint Fine-Tuning and Compression of a Convolutional Network with Bayesian Optimization},
author = {Frederick Tung and Srikanth Muralidharan and Greg Mori},
journal= {arXiv preprint arXiv:1707.09102},
year = {2017}
}
备注
BMVC 2017 oral