Bregman变分学习动力学的优化
最优化与控制
2025-10-24 v1
摘要
我们发展了一个通用的优化理论框架,用于Bregman变分学习动力学(BVLD),这是一种新的基于算子的数值更新方法,统一了贝叶斯推断、镜像梯度和准线学习,在时间可变环境下。每一次更新均被形式化为一个变分优化问题,结合光滑凸损失 与 Bregman 散度 。我们证明了诱导算子在Bregman几何中为平均化、收缩且指数稳定的。进一步,我们通过演化变分不等式(EVI)建立了Fejer单调性、漂移感知收敛和连续时间等价性。这些结果为在非平稳优化中的稳健且稳定的算子动力学提供了严格的分析基础。
引用
@article{arxiv.2510.20227,
title = {Optimization of Bregman Variational Learning Dynamics},
author = {Jinho Cha and Youngchul Kim and Jungmin Shin and Jaeyoung Cho and Seon Jin Kim and Junyeol Ryu},
journal= {arXiv preprint arXiv:2510.20227},
year = {2025}
}
备注
39 pages, 4 figures, submitted to Journal of Optimization Theory and Applications (JOTA)