中文

DynaShare:基于任务与实例条件的多任务学习参数共享方法

计算机视觉与模式识别 2023-05-30 v1

摘要

多任务网络依赖于有效的参数共享来实现跨任务的鲁棒泛化。本文提出了一种新颖的多任务学习参数共享方法,该方法在推理时根据任务及中间特征表示来调节参数共享。与传统的参数共享方法(在训练时固定或学习确定性的共享模式,并在推理时对所有样本应用相同模式)不同,我们提出基于任务和输入实例动态决定激活网络的哪些部分。我们的方法学习一种分层门控策略,由用于粗粒度层选择的任务特定策略以及针对单个输入实例的门控单元组成,二者协同确定推理时的执行路径。在 NYU v2、Cityscapes 和 MIMIC-III 数据集上的实验证明了所提方法的潜力及其跨问题领域的适用性。

关键词

引用

@article{arxiv.2305.17305,
  title  = {DynaShare: Task and Instance Conditioned Parameter Sharing for Multi-Task Learning},
  author = {Elahe Rahimian and Golara Javadi and Frederick Tung and Gabriel Oliveira},
  journal= {arXiv preprint arXiv:2305.17305},
  year   = {2023}
}