具有注意力机制的端到端多任务学习
计算机视觉与模式识别
2019-04-08 v2
摘要
我们提出了一种新颖的多任务学习架构，其允许学习任务特定的特征级注意力。我们的设计，即多任务注意力网络（MTAN），由一个包含全局特征池的单一共享网络以及每个任务一个的软注意力模块组成。这些模块允许从全局特征中学习任务特定的特征，同时允许特征在不同任务之间共享。该架构可以端到端训练，可以构建于任何前馈神经网络之上，易于实现，并且参数高效。我们在多个数据集上评估了我们的方法，涵盖图像到图像预测和图像分类任务。我们表明，与现有方法相比，我们的架构在多任务学习中达到最先进水平（SOTA），并且对多任务损失函数中的各种加权方案也不那么敏感。代码可在 https://github.com/lorenmt/mtan 获取。
引用
@article{arxiv.1803.10704,
title = {End-to-End Multi-Task Learning with Attention},
author = {Shikun Liu and Edward Johns and Andrew J. Davison},
journal= {arXiv preprint arXiv:1803.10704},
year = {2019}
}
备注
Accepted at Computer Vision and Pattern Recognition (CVPR), 2019