面向联邦矩阵补全问题的线性化交替方向乘子方法
机器学习
2025-03-19 v2
摘要
矩阵补全是预测缺失数据的基本方法,广泛应用于个性化医疗、电子商务、推荐系统和社交网络分析等领域。传统的矩阵补全方法通常假设数据集中存储,导致计算效率、可扩展性和用户隐私等方面的挑战。本文聚焦于联邦矩阵补全问题,特别是用户特定数据分布在多个客户端之间且隐私约束不可妥协的场景。联邦学习提供了一个有前景的框架,通过在不共享原始数据的情况下实现分布数据集之间的协作学习,以解决这些挑战。我们提出了用于解决联邦矩阵补全问题的 \texttt{FedMC-ADMM},这是一种新的算法框架,将交替方向乘子法与随机化块坐标策略和交替proximal梯度步骤相结合。与现有联邦方法不同,\texttt{FedMC-ADMM} 能够有效处理多块非凸和非光滑优化问题,在保持用户隐私的同时实现高效计算。我们分析了算法的理论属性,证明了次序收敛性,并建立了收敛速率为 ,从而得到达到 -stationary点的通信复杂度为 。本文是首次为存在多变量的联邦矩阵补全建立这些理论保证。为验证我们的ethods,我们在真实数据集上开展了大量实验,包括 MovieLens 1M、10M 和 Netflix。结果表明,\texttt{FedMC-ADMM} 在收敛速度和测试准确性方面均优于现有方法。
引用
@article{arxiv.2503.12733,
title = {A Linearized Alternating Direction Multiplier Method for Federated Matrix Completion Problems},
author = {Patrick Hytla and Tran T. A. Nghia and Duy Nhat Phan and Andrew Rice},
journal= {arXiv preprint arXiv:2503.12733},
year = {2025}
}
备注
29 pages, 4 figures