多任务学习中的公平资源分配
机器学习
2024-07-03 v2
摘要
通过联合学习多个任务，多任务学习 (MTL) 可以利用任务间的共享知识，从而提高数据效率和泛化性能。然而，MTL 的一个主要挑战在于冲突梯度的存在，这会阻碍某些任务的公平优化，进而妨碍 MTL 实现更好的整体性能。受通信网络中公平资源分配的启发，我们将 MTL 的优化公式化为效用最大化问题，其中在不同公平性度量下最大化跨任务的损失减少。为了解决这个问题，我们提出了 FairGrad，一种新颖的 MTL 优化方法。FairGrad 不仅能够灵活地强调某些任务，还能实现理论上的收敛保证。大量实验表明，我们的方法在监督学习和强化学习的一系列多任务基准测试中，在梯度操作方法中实现了最先进的性能。此外，我们将 -fairness 的思想融入到各种 MTL 方法的损失函数中。大量的实证研究表明，它们的性能可以得到显著提升。代码提供于 \url{https://github.com/OptMN-Lab/fairgrad}。
引用
@article{arxiv.2402.15638,
title = {Fair Resource Allocation in Multi-Task Learning},
author = {Hao Ban and Kaiyi Ji},
journal= {arXiv preprint arXiv:2402.15638},
year = {2024}
}