中文

面向分布极小极大问题的对称平均场 Langevin 动力学

最优化与控制 2024-02-19 v2 机器学习

摘要

本文首次将平均场 Langevin 动力学扩展至概率分布上的极小极大优化,并提出了对称且可证明收敛的更新方法。我们提出了平均场 Langevin 平均梯度(MFL-AG),这是一种单循环算法,通过新颖的加权平均在分布空间中实现梯度下降上升,并证明了平均迭代收敛至混合 Nash 均衡。我们还研究了时间和粒子两种离散化机制,并证明了一个新的时间一致混沌传播结果,该结果考虑了粒子相互作用对所有先前分布的依赖性。此外,我们提出了平均场 Langevin 锚定最佳响应(MFL-ABR),这是一种基于最佳响应动力学且具有线性最后迭代收敛性的对称双循环算法。最后,我们研究了其在零和 Markov 博弈中的应用,并进行了展示长期最优性的仿真实验。

关键词

引用

@article{arxiv.2312.01127,
  title  = {Symmetric Mean-field Langevin Dynamics for Distributional Minimax Problems},
  author = {Juno Kim and Kakei Yamamoto and Kazusato Oko and Zhuoran Yang and Taiji Suzuki},
  journal= {arXiv preprint arXiv:2312.01127},
  year   = {2024}
}

备注

ICLR 2024 spotlight