超越相似性:基于复合聚合的个性化联邦推荐
密码学与安全
2024-06-07 v1 信息检索
摘要
联邦推荐旨在通过聚合来自大量设备的本地模型来收集全局知识,以在确保隐私的前提下提供推荐。当前方法主要利用联邦视觉社区发明的聚合函数来聚合来自相似客户端的参数,例如聚类聚合。尽管性能相当佳,我们认为将其直接应用于联邦推荐是次优的。这主要体现在模型结构差异上。与联邦视觉中的结构参数(如卷积神经网络)不同,联邦推荐模型通常通过采用一对一的物品嵌入表而具有鲜明特征。这种差异导致嵌入偏斜问题的挑战,该问题在聚合过程中持续更新已训练的嵌入,但忽略未训练的嵌入,从而无法准确预测未来物品。为此,我们提出了一种个性化联邦推荐模型,可用于复合聚合 (FedCA),该模型不仅聚合相似的客户端以增强已训练的嵌入,还聚合互补的客户端以更新未训练的嵌入。此外,我们将整个学习过程形式化为统一的优化算法,以联合学习相似性和互补性。大量实验表明,我们提出的模型在多个真实数据集上有效。源代码可在 https://github.com/hongleizhang/FedCA 获取。
引用
@article{arxiv.2406.03933,
title = {Beyond Similarity: Personalized Federated Recommendation with Composite Aggregation},
author = {Honglei Zhang and Haoxuan Li and Jundong Chen and Sen Cui and Kunda Yan and Abudukelimu Wuerkaixi and Xin Zhou and Zhiqi Shen and Yidong Li},
journal= {arXiv preprint arXiv:2406.03933},
year = {2024}
}