多任务自监督视觉学习
计算机视觉与模式识别
2017-08-29 v1
摘要
我们研究结合多个自监督任务（即无需人工标注即可收集数据的监督任务）以训练单一视觉表示的方法。首先，我们使用极深的 ResNet-101 架构对四种不同的自监督任务进行公平比较。随后我们结合任务联合训练网络。我们还探索了 lasso 正则化以鼓励网络分解其表示中的信息，以及“调和”网络输入的方法以学习更统一的表示。我们在 ImageNet 分类、PASCAL VOC 检测和 NYU 深度预测上评估所有方法。我们的结果表明，更深的网络表现更好，且结合任务——即使通过朴素的多头架构——总能提升性能。我们最佳的联合网络几乎匹配了在 ImageNet 分类上预训练模型的 PASCAL 性能，并在 NYU 深度预测上匹配了 ImageNet 网络。
引用
@article{arxiv.1708.07860,
title = {Multi-task Self-Supervised Visual Learning},
author = {Carl Doersch and Andrew Zisserman},
journal= {arXiv preprint arXiv:1708.07860},
year = {2017}
}
备注
Published at ICCV 2017