基于度量正则化与时间集成的异构无监督任务多任务学习
计算机视觉与模式识别
2019-08-30 v1
摘要
提升目标任务性能的一种途径是学习预训练网络所蕴含的丰富知识迁移。然而，预训练网络的学习需要较高的计算能力及大规模标注数据集。为缓解大规模标注负担，以无监督/自监督方式进行学习是一种解决思路。此外，利用无监督多任务学习可学习到泛化的特征表示。但无监督多任务学习可能偏向某一特定任务。为克服该问题，我们提出用于多任务学习的基于度量的正则化项与时间任务集成(TTE)。由于这两种技术可防止整个网络偏离特定任务状态进行学习，因此能够学到恰当反映各任务特性且无偏的泛化特征表示。针对分类、目标检测与嵌入聚类三项目标任务的实验结果表明，基于TTE的多任务框架在提升目标任务性能方面优于最先进(SOTA)方法。
引用
@article{arxiv.1908.11024,
title = {Metric-based Regularization and Temporal Ensemble for Multi-task Learning using Heterogeneous Unsupervised Tasks},
author = {Dae Ha Kim and Seung Hyun Lee and Byung Cheol Song},
journal= {arXiv preprint arXiv:1908.11024},
year = {2019}
}
备注
11 pages. To Appear in the IEEE International Conference on Computer Vision Workshops (ICCVW) 2019