中文

分布式在线多重 Frank-Wolfe 凸优化的动态后悔改进

最优化与控制 2024-06-17 v2

摘要

在本文中,我们考虑时变多智能体网络上的分布式在线凸优化问题。该网络的目标是通过局部计算与邻居通信来最小化全局损失函数。为有效处理具有高维与结构约束集的优化问题,我们提出一种分布式在线多重 Frank-Wolfe 算法,以避免投影运算的高计算代价。动态后悔界被建立为 O(T1γ+HT)\mathcal{O}(T^{1-\gamma}+H_T),线性预言机数为 O(T1+γ)\mathcal{O} (T^{1+\gamma}),其依赖于时域(总迭代次数)TT、函数变化量 HTH_T 以及调谐参数 0<γ<10<\gamma<1。特别地,当 HTH_TTT 的先验知识可用时,该界可增强至 O(1+HT)\mathcal{O} (1+H_T)。此外,我们阐明了多重迭代技术的显著优势,并揭示了动态后悔界、计算代价与通信代价之间的权衡。最后,通过带两个约束集的分布式在线岭回归问题验证并比较了我们所提算法的性能。

关键词

引用

@article{arxiv.2305.12957,
  title  = {Improved Dynamic Regret of Distributed Online Multiple Frank-Wolfe Convex Optimization},
  author = {Wentao Zhang and Yang Shi and Baoyong Zhang and Deming Yuan},
  journal= {arXiv preprint arXiv:2305.12957},
  year   = {2024}
}