通过多源迁移学习面向面部分析通用知识模型
机器学习
2019-11-11 v1 机器学习
摘要
本文通过解决多源迁移学习问题，向获取面部分析的通用知识模型迈进了一步。更确切地说，所提方法由两个连续训练步骤组成：第一步应用组合算子为以不同现有已训练模型具现的多个源定义公共嵌入。所提算子依赖于一个在大型数据集上训练的自编码器，在压缩比与迁移学习性能上均高效。第二步中，我们利用蒸馏方法获得一个轻量学生模型，模仿所融合现有模型集合。该模型在新任务上超越其教师，以可承受的训练成本在 15 个面部分析任务（与域）上取得与最先进方法相当的结果。此外，该学生参数比原始教师少 75 倍，并可应用于多种新颖的面部相关任务。
引用
@article{arxiv.1911.03222,
title = {Towards a General Model of Knowledge for Facial Analysis by Multi-Source Transfer Learning},
author = {Valentin Vielzeuf and Alexis Lechervy and Stéphane Pateux and Frédéric Jurie},
journal= {arXiv preprint arXiv:1911.03222},
year = {2019}
}