一种求解加性目标测度值优化的分布式算法
最优化与控制
2022-02-21 v1 机器学习
系统与控制
系统与控制
摘要
我们提出一种分布式非参数算法,用于求解具有加性目标的测度值优化问题。此类问题出现在随机学习与控制的若干场景中,包括从非归一化先验的 Langevin 采样、平均场神经网络学习以及 Wasserstein 梯度流。所提算法由两层交替方向乘子法(ADMM)组成。外层 ADMM 将欧氏共识 ADMM 推广至 Wasserstein 共识 ADMM,以及其熵正则化版本 Sinkhorn 共识 ADMM。内层 ADMM 则是标准欧氏 ADMM 的一个具体实例。整体算法实现了概率测度流形上梯度流的算子分裂。
引用
@article{arxiv.2202.08930,
title = {A Distributed Algorithm for Measure-valued Optimization with Additive Objective},
author = {Iman Nodozi and Abhishek Halder},
journal= {arXiv preprint arXiv:2202.08930},
year = {2022}
}