关注卷积滤波器:迈向快速准确的细粒度迁移学习
计算机视觉与模式识别
2019-06-13 v1
摘要
我们提出一种高效的迁移学习方法,用于将 ImageNet 预训练的卷积神经网络(CNN)适配于细粒度图像分类任务。传统迁移学习方法通常面临训练时间与准确率之间的权衡。通过在预训练网络的每个卷积滤波器上添加“注意力模块”,我们能够在端到端流程中对各卷积信号的重要性进行排序与调整。在本报告中,我们展示了我们的方法能在少量轮次内将预训练的 ResNet50 适配于细粒度迁移学习任务,并取得高于传统迁移学习方法、接近从头训练模型的准确率。我们的模型还提供可解释的结果,因为卷积信号的排序显示了哪些卷积通道被利用并放大以取得更好的分类结果,以及哪些信号对该特定迁移学习任务应被视为噪声,可被剪枝以减小模型尺寸。
引用
@article{arxiv.1906.04950,
title = {Pay Attention to Convolution Filters: Towards Fast and Accurate Fine-Grained Transfer Learning},
author = {Xiangxi Mo and Ruizhe Cheng and Tianyi Fang},
journal= {arXiv preprint arXiv:1906.04950},
year = {2019}
}