多 Wasserstein 梯度下降算法用于多目标分布优化
机器学习
2025-05-27 v1 机器学习
摘要
我们解决的是在一组概率分布上同时最小化多个目标函数的优化问题。这种多目标分布优化常见于机器学习和统计学中,适用于诸如多目标抽样、多任务学习和多目标生成模型等领域。为解决此问题,我们提出一种迭代粒子基方法,称为 MWGraD (Multiple Wasserstein Gradient Descent),它构建一系列中间经验分布,每个分布由一组粒子表示,这些粒子逐渐同时最小化多个目标函数。具体而言,MWGraD 在每个迭代步骤中包含两个关键步骤。首先,基于当前粒子估计每个目标函数的 Wasserstein 梯度。然后,使用动态调整的权重将这些梯度聚合为单个 Wasserstein 梯度,并据此更新粒子。此外,我们提供理论分析并呈现在合成数据和真实数据集上的实验结果,证明了 MWGraD 的有效性。
关键词
引用
@article{arxiv.2505.18765,
title = {Multiple Wasserstein Gradient Descent Algorithm for Multi-Objective Distributional Optimization},
author = {Dai Hai Nguyen and Hiroshi Mamitsuka and Atsuyoshi Nakamura},
journal= {arXiv preprint arXiv:2505.18765},
year = {2025}
}
备注
Accepted to UAI 2025 (Oral Presentation)