渐进迁移学习
计算机视觉与模式识别
2020-11-09 v3
摘要
模型微调是行人重识别(ReID)应用中广泛使用的迁移学习方法，其将预训练的特征提取模型微调到目标场景，而非从零训练模型。由于目标场景内部存在显著变化（如不同相机视角、光照变化和遮挡），该任务具有挑战性。在使用小批量训练时，这些变化导致每个小批量的分布与整个数据集的分布之间存在差距。本文从小批量训练时数据集全局信息的聚合与利用角度研究模型微调。具体地，我们引入一种称为批相关卷积单元(BConv-Cell)的新型网络结构，其将数据集的全局信息渐进地收集到潜状态中，并用以校正提取的特征。基于BConv-Cell，我们进一步提出渐进迁移学习(PTL)方法，通过联合优化BConv-Cell与预训练ReID模型来促进模型微调过程。实证实验表明，我们的方案在MSMT17、Market-1501、CUHK03和DukeMTMC-reID数据集上能大幅提升ReID模型性能。此外，我们将方案扩展到通用图像分类任务。在多个图像分类基准数据集上的实验表明，我们的方案能显著改善基线模型性能。代码已发布于\url{https://github.com/ZJULearning/PTL}。
引用
@article{arxiv.1908.02492,
title = {Progressive Transfer Learning},
author = {Zhengxu Yu and Dong Shen and Zhongming Jin and Jianqiang Huang and Deng Cai and Xian-Sheng Hua},
journal= {arXiv preprint arXiv:1908.02492},
year = {2020}
}
备注
10 pages, 4 figures, journel verison of our published short paper on IJCAI2019