少样本学习中如何微调深度神经网络？
机器学习
2020-12-02 v1 计算机视觉与模式识别
摘要
深度学习已广泛应用于数据密集型应用。然而，训练深度神经网络通常需要大规模数据集。当可用于训练的数据不足时，深度学习模型的性能甚至不如浅层网络。已有研究证明少样本学习能够利用少量训练样本泛化到新任务。微调深度模型是一种简单而有效的少样本学习方法。然而，如何微调深度学习模型（微调卷积层还是 BN 层？）仍缺乏深入研究。因此，本文通过实验比较研究如何微调深度模型。此外，分析了模型的权重以验证微调方法的可行性。
引用
@article{arxiv.2012.00204,
title = {How to fine-tune deep neural networks in few-shot learning?},
author = {Peng Peng and Jiugen Wang},
journal= {arXiv preprint arXiv:2012.00204},
year = {2020}
}