多目标学习中的三方权衡：优化、泛化与冲突避免

当存在多个学习准则、数据模态或学习任务时，多目标学习（MOL）问题常出现在新兴机器学习问题中。与单目标学习不同，MOL 的关键挑战之一是在迭代优化过程中不同目标之间潜在的冲突。近期工作开发了多种用于 MOL 的动态加权算法，如 MGDA 及其变体，其核心思想是寻找一个避免目标间冲突的更新方向。尽管直觉引人注目，实证研究表明动态加权方法未必总是优于静态方法。为理解这一理论—实践差距，我们关注 MGDA 的一个新的随机变体——带双重采样的多目标梯度（MoDo）算法，并通过算法稳定性的视角研究基于动态加权的 MoDo 的泛化性能及其与优化的相互作用。或许令人惊讶的是，我们发现 MGDA 背后的关键原理——沿冲突避免方向更新——可能阻碍动态加权算法达到最优的 ${\cal O}(1/\sqrt{n})$ 总体风险，其中 $n$ 为训练样本数。我们进一步展示了动态权重的变化性对 MOL 特有的优化、泛化与冲突避免之间三方权衡的影响。我们通过在该框架下分析其他已有的随机 MOL 算法，展示了我们理论框架的通用性。我们在多个多任务学习基准上进行了实验以证明实际适用性。代码见 https://github.com/heshandevaka/Trade-Off-MOL。