多任务优化的任务优先级量化

多任务学习的目标是学习单个统一网络中的多个不同任务。由于每个任务都有其独特的目标函数，在训练过程中会产生冲突，导致它们之间出现负迁移。早期的研究识别了这些在共享参数之间产生的冲突梯度，并尝试将其重新对齐到同一方向。然而，我们证明了此类优化策略由于无法准确确定每个参数在各种任务中的 individual 贡献，导致次优的 Pareto 解。本文提出了评估参数在不同任务中的贡献的任务优先级概念，以学习任务优先级，我们识别了与由任务特定损失在反向传播期间影响参数的链接相关的连接类型。通过参数大小的大小来衡量连接强度，以确定任务优先级。基于此，我们提出了一种名为基于连接强度的多任务学习优化的新方法，包含两个阶段。第一个阶段在网络中学习任务优先级，而第二个阶段在维持该优先级的同时修改梯度。这最终导致为多个任务找到新的 Pareto 最优解。通过大量实验，我们显示我们的做法在与早期梯度操控方法相比，大大增强了多任务性能。