半定矩阵空间上多智能体系统具有收敛速率的一阶方法
最优化与控制
2019-02-18 v1
摘要
本文旨在为半定矩阵空间上的多智能体优化问题开发具有收敛速率的一阶方法。这些问题包括合作优化问题和非合作Nash博弈。因此，我们首先考虑一个多智能体系统，其中智能体协同最小化其局部凸目标的和；其次，我们考虑具有单调映射的笛卡尔随机变分不等式（CSVI）问题，以解决半定矩阵空间上的随机Nash博弈。尽管在处理向量空间上问题的一阶方法方面取得了最新进展，但半定矩阵空间上优化问题与均衡的一阶方法理论似乎仍存在重大空白。具体而言，据我们所知，在温和假设下尚无具有可证明收敛速率的方法能求解这两类问题。现有大多数方法要么依赖强假设，要么需要双循环框架，且每次迭代均需求解一个半定优化问题。受此空白启发，在本文第一部分，我们开发了一种镜像下降增量次梯度方法用于最小化有限和函数。我们证明了该算法生成的迭代渐近收敛至最优解，并推导出非渐近收敛速率。在第二部分，我们考虑半定CSVI问题。我们开发了一种仅需映射单调性的随机镜像下降方法。我们证明了该算法生成的迭代几乎必然收敛至CSVI的解。利用适当定义的间隙函数，我们推导出了收敛速率结论。据我们所知，本工作首次为半定矩阵空间上的单调CSVI提供了收敛速度保证。
引用
@article{arxiv.1902.05900,
title = {First-order Methods with Convergence Rates for Multi-agent Systems on Semidefinite Matrix Spaces},
author = {Nahidsadat Majlesinasab and Farzad Yousefian and Mohammad Javad Feizollahi},
journal= {arXiv preprint arXiv:1902.05900},
year = {2019}
}
备注
arXiv admin note: text overlap with arXiv:1809.09155