$\alpha$VIL：学习如何为多任务学习利用辅助任务

多任务学习（Multitask Learning）是一种机器学习范式，旨在通过共享模型来训练一系列（通常相关的）任务。虽然目标通常是提高所有训练任务的联合性能，但另一种方法是专注于特定目标任务的性能，而将其他任务视为可从中可能获得正向迁移的辅助数据。在此类设置下，估计辅助任务对目标的正或负影响变得重要。虽然已提出多种方法在训练前或训练期间估计任务权重，但它们通常依赖于启发式方法或对权重空间进行大范围搜索。我们提出了一种新方法，称为 $\alpha$-Variable Importance Learning（$\alpha$VIL），该方法能够在模型训练期间动态调整任务权重，直接利用训练周期之间底层模型参数的任务特定更新。实验表明，$\alpha$VIL 能在 various 设置下超越其他多任务学习方法。就目前首次利用模型更新进行任务权重估计而言，本工作具有开创性。