一种缓解个性化联邦推荐中嵌入退化的模型无关策略
信息检索
2025-08-28 v1 分布式、并行与集群计算
摘要
集中式推荐系统由于需要收集用户行为和其他私人数据而面临隐私泄露问题。因此，联邦推荐系统（FedRec）成为一种有前景的方法，在服务器上聚合全局模型。然而，这种分布式训练范式因次优个性化和维度坍塌而遭受嵌入退化，这是由于稀疏交互和异质偏好所致。为此，我们提出了一种用于FedRec的新型模型无关策略来增强个性化嵌入效用，称为个性化局部-全局协作（PLGC）。这是联邦推荐中首个缓解维度坍塌问题的研究。特别地，我们将冻结的全局物品嵌入表纳入本地设备。基于动态平衡局部和全局信息的Neural Tangent Kernel策略，PLGC在前向推理期间优化个性化表示，最终收敛到用户特定偏好。此外，PLGC采用对比目标函数，通过消除维度间的依赖关系来减少嵌入冗余，从而改进反向表示学习过程。我们将PLGC介绍为一种可用于现有基线的模型无关个性化训练策略，以缓解嵌入退化。在五个真实数据集上的广泛实验证明了PLGC的有效性和适应性，其优于各种基线算法。
引用
@article{arxiv.2508.19591,
title = {A Model-agnostic Strategy to Mitigate Embedding Degradation in Personalized Federated Recommendation},
author = {Jiakui Shen and Yunqi Mi and Guoshuai Zhao and Jialie Shen and Xueming Qian},
journal= {arXiv preprint arXiv:2508.19591},
year = {2025}
}