多任务学习中的主动梯度冲突缓解：稀疏训练视角
机器学习
2024-11-28 v1 人工智能
计算机视觉与模式识别
摘要
向通用智能体迈进的过程中， necessitates 同时使用统一模型处理多个任务，从而凸显了在多个下游任务上同步训练模型的重要性。多任务学习常见问题是梯度冲突的发生，这会导致不同任务在联合训练期间出现潜在竞争。这种竞争常导致一个任务的改进以牺牲另一个任务的性能为代价。虽然已develop出多种方法通过操控任务梯度来实现更好的任务平衡，但无法降低梯度冲突的发生率。本文系统性地研究了不同方法中梯度冲突的发生情况，并提出一种通过稀疏训练(ST)来减少此类冲突的策略，其中仅更新模型的一部分参数而保持其余部分不变。我们的广泛实验表明，ST 有效缓解了冲突梯度并导致优异性能。此外，ST 可轻松集成到梯度操控技术中，从而增强其效果。
引用
@article{arxiv.2411.18615,
title = {Proactive Gradient Conflict Mitigation in Multi-Task Learning: A Sparse Training Perspective},
author = {Zhi Zhang and Jiayi Shen and Congfeng Cao and Gaole Dai and Shiji Zhou and Qizhe Zhang and Shanghang Zhang and Ekaterina Shutova},
journal= {arXiv preprint arXiv:2411.18615},
year = {2024}
}