基于不精确ADMM的快速持续边缘联邦元学习

为满足许多物联网应用对性能、安全性和延迟的要求，必须在网络边缘此时此地做出智能决策。然而，受限的资源与有限的本地数据量对边缘AI的发展提出了重大挑战。为克服这些挑战，我们探索能够利用先前任务知识迁移的持续边缘学习。为实现快速且持续的边缘学习，我们提出一种平台辅助的联邦元学习架构，其中边缘节点协作学习一个元模型，并借助来自先验任务的知识迁移。边缘学习问题被构建为一个正则化优化问题，其中从先前任务学到的有价值知识被提取为正则项。随后，我们设计了一种基于ADMM的联邦元学习算法，即ADMM-FedMeta，其中ADMM提供了一种自然机制将原问题分解为许多可在边缘节点与平台间并行求解的子问题。进一步，采用一种不精确ADMM方法的变体，通过线性近似与Hessian估计“求解”子问题，以将每轮计算成本降至 $\mathcal{O}(n)$。我们对ADMM-FedMeta进行了全面分析，涉及一般非凸情形下的收敛性质、快速适应性能以及先验知识迁移的遗忘效应。大量实验研究证明了ADMM-FedMeta的有效性与高效性，并展示其大幅优于现有基线。