多任务学习中哪些任务应当一起学习？
计算机视觉与模式识别
2020-09-04 v4
摘要
许多计算机视觉应用需要实时求解多个任务。神经网络可通过多任务学习同时训练以求解多个任务。这可以在推理时节省计算量，因为只需评估单个网络。遗憾的是，这常导致整体性能下降，因为任务目标可能相互竞争，从而引出问题：在使用多任务学习时，哪些任务应该和不应该在一个网络中一起学习？我们在几种不同学习设定下研究任务合作与竞争，并提出一个框架，将任务分配给少数神经网络，使得合作任务由同一神经网络计算，而竞争任务由不同网络计算。我们的框架提供了时间-精度权衡，并且比单个大型多任务神经网络以及许多单任务网络使用更少的推理时间而获得更好的精度。
引用
@article{arxiv.1905.07553,
title = {Which Tasks Should Be Learned Together in Multi-task Learning?},
author = {Trevor Standley and Amir R. Zamir and Dawn Chen and Leonidas Guibas and Jitendra Malik and Silvio Savarese},
journal= {arXiv preprint arXiv:1905.07553},
year = {2020}
}
备注
Presented to ICML 2020 See project website at http://taskgrouping.stanford.edu/