域扩展:一种用于多任务学习的潜在空间构建框架
机器学习
2026-03-03 v2
摘要
使用多个目标训练单个网络通常会导致梯度冲突,从而降低共享表示的质量,迫使其进入一种对任何单一任务都次优的妥协状态——我们将此问题称为潜在表示坍缩。我们提出了域扩展,这是一种通过重构潜在空间本身来防止这些冲突的框架。我们的框架使用一种新颖的正交池化机制来构建潜在空间,在该空间中,每个目标都被分配到一个相互正交的子空间中。我们在包括ShapeNet、MPIIGaze和旋转MNIST在内的多个基准测试上,针对结合分类与姿态及视线估计的具有挑战性的多目标问题验证了我们的方法。我们的实验表明,这种结构不仅防止了坍缩,而且还产生了一个显式的、可解释的、组合式的潜在空间,其中概念可以被直接操控。
引用
@article{arxiv.2601.20069,
title = {Domain Expansion: A Latent Space Construction Framework for Multi-Task Learning},
author = {Chi-Yao Huang and Khoa Vo and Aayush Atul Verma and Duo Lu and Yezhou Yang},
journal= {arXiv preprint arXiv:2601.20069},
year = {2026}
}
备注
Accepted to ICLR 2026