INTERACT：在去中心化双层学习上实现低样本与通信复杂度

近年来，去中心化双层优化问题因其在对等网络上建模去中心化学习问题（例如多智能体元学习、多智能体强化学习、个性化训练和拜占庭鲁棒学习）的通用性，受到了网络与机器学习领域的日益关注。然而，对于计算和通信能力受限的对等网络上的去中心化双层优化，如何实现低样本复杂度和低通信复杂度是迄今仍未被充分探索的两个基本挑战。在本文中，我们首次尝试研究具有分别对应外层与内层子问题的非凸与强凸结构的去中心化双层优化问题类。我们在本文中的主要贡献有两点：i) 我们首先提出一种称为 INTERACT（内层梯度下降-外层跟踪梯度）的确定性算法，该算法求解双层优化问题所需的样本复杂度为 $\mathcal{O}(n \epsilon^{-1})$、通信复杂度为 $\mathcal{O}(\epsilon^{-1})$，其中 $n$ 和 $\epsilon > 0$ 分别为每个智能体的样本数和所需的平稳性间隙。ii) 为放宽每次迭代中全梯度评估的需求，我们提出 INTERACT 的随机方差缩减版本（SVR-INTERACT），其将样本复杂度改进为 $\mathcal{O}(\sqrt{n} \epsilon^{-1})$，同时达到与确定性算法相同的通信复杂度。据我们所知，本工作是首个在求解网络上的去中心化双层优化问题时同时实现低样本与低通信复杂度的工作。我们的数值实验也证实了我们的理论发现。