通过协方差归一化的高效多域网络学习
计算机视觉与模式识别
2019-06-26 v1
摘要
本文考虑深度网络的多域学习问题。为每个目标域引入一个自适应层,并提出一种新方法——协方差归一化(CovNorm)来减少其参数。CovNorm是一种数据驱动的方法,实现相当简单,需要两次主成分分析(PCA)和微调一个微型自适应层。然而,理论和实验都表明,与之前的方法(如批归一化或几何矩阵近似)相比,它具有若干优势。此外,CovNorm既可以顺序部署目标数据集,也可以同时部署。实验表明,在两种情况下,其性能与完全微调的网络相当,而每个目标域使用的参数仅为相应参数的0.13%。
引用
@article{arxiv.1906.10267,
title = {Efficient Multi-Domain Network Learning by Covariance Normalization},
author = {Yunsheng Li and Nuno Vasconcelos},
journal= {arXiv preprint arXiv:1906.10267},
year = {2019}
}
备注
10 Pages Accepted by CVPR 2019