分布式鲁棒多目标优化
机器学习
2026-05-08 v1 最优化与控制
摘要
多目标优化 (MOO) 在需满足多个准则的应用中受到日益关注。然而,现有 MOO 公式未显式考虑数据分布迁移。我们提出分布式鲁棒多目标优化 (DR-MOO),其在各目标所属的最坃分布下进行最小化。我们为 DR-MOO 提出 Pareto 型解概念,并开发具可证明保证的多梯度下降算法 (MGDA)。利用拉格朗日对偶重构,我们首先设计双循环 MGDA,使用内循环估计对偶变量,达到 -Pareto 静止点的总样本复杂度为 。为进一步提升效率,我们纳入梯度裁剪以处理广义光滑与偏置梯度估计,无需双抽样。这一做法产生的单循环双裁剪 MGDA 具有显著改进的样本复杂度 。我们的理论适用于非凸情形,不要求目标或梯度有界。实验表明,我们的方法在与最先进 MGDA baseline 竞争中表现优异。
引用
@article{arxiv.2605.05660,
title = {Distributionally Robust Multi-Objective Optimization},
author = {Yufeng Yang and Fangning Zhuo and Ziyi Chen and Heng Huang and Yi Zhou},
journal= {arXiv preprint arXiv:2605.05660},
year = {2026}
}
备注
47 pages