中文

面向动态环境下的去中心化在射曼布里优化

最优化与控制 2024-10-08 v1 微分几何

摘要

本文发展了首个在哈达顿流形上进行的去中心化在线射曼布里优化算法。我们的算法是去中心化投影式射曼布里梯度下降法,该方法迭代地通过投影式射曼布里梯度下降和加权费雷曲均值进行局部更新。理论上,我们为去中心化步骤建立了线性方差归约。基于此,我们证明了该算法的动态 regret 上界为 O(T(1+PT)/(1σ2(W))){\cal O}(\sqrt{T(1+P_T)}/\sqrt{(1-\sigma_2(W))}),其中 TT 为时间范围,PTP_T 表示衡量非平稳性的路径变动,σ2(W)\sigma_2(W) 衡量网络连通性。算法中的加权费雷曲均值涉及一个最小化问题,计算开销较大。为进一步缓解此成本,我们提出一种采用闭式解的简化共识步骤,取代加权费雷曲均值。我们随后为这一替代方案建立线性方差归约,证明即使采用这种简约共识步骤,去中心化算法也能实现相同的动态 regret 上界。最后,我们在非平稳的哈弗空间和对称正定矩阵空间上的去中心化费雷曲均值计算实验中验证了我们方法的有效性。

关键词

引用

@article{arxiv.2410.05128,
  title  = {Decentralized Online Riemannian Optimization with Dynamic Environments},
  author = {Hengchao Chen and Qiang Sun},
  journal= {arXiv preprint arXiv:2410.05128},
  year   = {2024}
}