神经网络中表征在数据集与任务间的可迁移性研究
机器学习
2018-11-30 v1 机器学习
摘要
深度网络由多层层次化分布式表征组成,倾向于在初始层学习低层特征,并在最终层过渡至高层特征。迁移学习、多任务学习和持续学习等范式利用这种通用层次化分布式表征的概念,以跨数据集和任务共享知识。在此,我们研究深度网络中表征在若干数据集和任务间的逐层可迁移性,并注意到一些有趣的实证观察。
引用
@article{arxiv.1811.12273,
title = {On the Transferability of Representations in Neural Networks Between Datasets and Tasks},
author = {Haytham M. Fayek and Lawrence Cavedon and Hong Ren Wu},
journal= {arXiv preprint arXiv:1811.12273},
year = {2018}
}
备注
Accepted Paper in the Continual Learning Workshop, NeurIPS 2018