中文

分布式鲁棒多目标优化

机器学习 2026-05-08 v1 最优化与控制

摘要

多目标优化 (MOO) 在需满足多个准则的应用中受到日益关注。然而,现有 MOO 公式未显式考虑数据分布迁移。我们提出分布式鲁棒多目标优化 (DR-MOO),其在各目标所属的最坃分布下进行最小化。我们为 DR-MOO 提出 Pareto 型解概念,并开发具可证明保证的多梯度下降算法 (MGDA)。利用拉格朗日对偶重构,我们首先设计双循环 MGDA,使用内循环估计对偶变量,达到 ϵ\epsilon -Pareto 静止点的总样本复杂度为 O(ϵ12)\mathcal{O}(\epsilon^{-12})。为进一步提升效率,我们纳入梯度裁剪以处理广义光滑与偏置梯度估计,无需双抽样。这一做法产生的单循环双裁剪 MGDA 具有显著改进的样本复杂度 O(ϵ4)\mathcal{O}(\epsilon^{-4})。我们的理论适用于非凸情形,不要求目标或梯度有界。实验表明,我们的方法在与最先进 MGDA baseline 竞争中表现优异。

关键词

引用

@article{arxiv.2605.05660,
  title  = {Distributionally Robust Multi-Objective Optimization},
  author = {Yufeng Yang and Fangning Zhuo and Ziyi Chen and Heng Huang and Yi Zhou},
  journal= {arXiv preprint arXiv:2605.05660},
  year   = {2026}
}

备注

47 pages