InterroGate：学习共享、专精和剪枝多任务学习的表示
机器学习
2024-02-27 v1
摘要
使用统一模型联合学习多个任务可以提高准确性和数据效率，但面临着任务干扰的挑战，即优化一个任务目标可能会无意中损害另一个任务的性能。缓解这一问题的一种解决方案是在共享特征之上分配不受干扰的任务特定参数。然而，手动设计此类架构十分繁琐，因为从业者需要在所有任务的整体性能与新增加参数引起的更高计算成本之间取得平衡。在这项工作中，我们提出了 InterroGate，这是一种新颖的多任务学习（MTL）架构，旨在缓解任务干扰，同时优化推理计算效率。我们采用一种可学习的门控机制，自动平衡共享表示和任务特定表示，同时保留所有任务的性能。关键在于，训练期间动态学习到的参数共享和专精模式在推理时变为固定，从而形成静态且优化的 MTL 架构。通过广泛的实证评估，我们展示了在 CelebA、NYUD-v2 和 PASCAL-Context 上使用基于卷积和 Transformer 的主干网络，在三个 MTL 基准测试中取得了最先进（SoTA）的结果。
引用
@article{arxiv.2402.16848,
title = {InterroGate: Learning to Share, Specialize, and Prune Representations for Multi-task Learning},
author = {Babak Ehteshami Bejnordi and Gaurav Kumar and Amelie Royer and Christos Louizos and Tijmen Blankevoort and Mohsen Ghafoorian},
journal= {arXiv preprint arXiv:2402.16848},
year = {2024}
}
备注
Under review