中文

面向非拓扑独立通信的去中心化优化

数值分析 2025-10-23 v2 数值分析

摘要

分布式优化需要节点协调,但完全同步的做法在规模上表现不佳。当 n 个节点通过 m 个两两 regularizer 协作时,标准方法要求每次迭代进行 O(m) 次通信。本文提出了随机局部协调方法:每个节点独立均匀采样一个 regularizer,并仅与共享该项的节点协调。这利用了部分可分性,其中每个 regularizer G_j 依赖于节点子集 S_j ⊆ {1,...,n}。对于 graph-guided regularizers 且 |S_j|=2 的情况,预期通信量恰为 2 条消息/次。该方法在凸目标下实现 tilde{O}(epsilon^{-2}) 次迭代,在强凸性下达到 epsilon-解需要 O(epsilon^{-1}),收敛到邻域需要 O(log(1/epsilon))。将 sum_j G_j 的 proximal map 替换为随机选择单个 regularizer G_j 的 proximal method 既保持收敛,又消除了全局协调。实验验证了收敛率和通信效率,在合成数据和真实数据集上表现良好。

关键词

引用

@article{arxiv.2509.14486,
  title  = {Error analysis of a fully discrete structure-preserving finite element scheme for a diffuse-interface model of tumour growth},
  author = {Agus L. Soenjaya and Ping Lin and Thanh Tran},
  journal= {arXiv preprint arXiv:2509.14486},
  year   = {2025}
}