中文

通信高效的去中心化在线连续DR-子模最大化

机器学习 2022-08-19 v1 最优化与控制

摘要

最大化单调子模函数是在机器学习、经济学和统计学中的一项基本任务。在本文中,我们提出两种通信高效的去中心化在线算法用于单调连续DR-子模最大化问题,二者都将每个函数梯度计算次数和每轮通信复杂度从 T3/2T^{3/2} 降低到 11。第一种,单次去中心化元Frank-Wolfe(Mono-DMFW),实现了 O(T4/5)O(T^{4/5})(11/e)(1-1/e)-遗憾界。据我们所知,这是首个用于单调连续DR-子模最大化的单次且无投影的去中心化在线算法。接下来,受非遗忘增强函数 \citep{zhang2022boosting} 启发,我们提出去中心化在线增强梯度上升(DOBGA)算法,其达到了 O(T)O(\sqrt{T})(11/e)(1-1/e)-遗憾。据我们所知,这是首个在每步仅对每个局部目标函数进行一次梯度查询的情况下,针对 (11/e)(1-1/e)-近似获得最优 O(T)O(\sqrt{T}) 的结果。最后,多种实验结果证实了所提方法的有效性。

关键词

引用

@article{arxiv.2208.08681,
  title  = {Communication-Efficient Decentralized Online Continuous DR-Submodular Maximization},
  author = {Qixin Zhang and Zengde Deng and Xiangru Jian and Zaiyi Chen and Haoyuan Hu and Yu Yang},
  journal= {arXiv preprint arXiv:2208.08681},
  year   = {2022}
}

备注

37 pages, 7 figures, 2 tables