Medusa：通过注意力多任务实现通用特征学习
机器学习
2022-04-13 v1
摘要
近期多任务学习 (MTL) 的方法集中于在解码器层面建模任务间的关联。这导致任务间紧密耦合，若插入或移除新任务则需重新训练。我们认为 MTL 是迈向通用特征学习 (UFL) 的垫脚石，即学习可应用于新任务而无需重训的通用特征的能力。我们提出 Medusa 以实现此目标，设计了具有双重注意力机制的任务头。共享特征注意力为每个任务屏蔽相关的骨干特征，使其学习通用表示。同时，一种新颖的多尺度注意力头使网络在最终预测时能更好地组合来自不同尺度的逐任务特征。我们在 UFL 中展示了 Medusa 的有效性（+13.18% 提升），同时保持 MTL 性能，且比先前方法高效 25%。
引用
@article{arxiv.2204.05698,
title = {Medusa: Universal Feature Learning via Attentional Multitasking},
author = {Jaime Spencer and Richard Bowden and Simon Hadfield},
journal= {arXiv preprint arXiv:2204.05698},
year = {2022}
}
备注
Accepted @ CVPRW 2022 (CLVision, 3rd Edition)