面向联邦推荐的广义嵌入学习的锐度感知最小化
机器学习
2026-03-13 v1
摘要
联邦推荐系统通过保持用户交互数据本地化、仅共享essential模型参数来实现协作模型训练，从而缓解隐私风险。然而，现有方法忽视了一个关键问题，即在联邦推荐系统训练过程中稳定学习通用物品嵌入的难题。物品嵌入在促进跨客户端知识共享中起核心作用。然而，在跨设备设置下，本地数据分布呈现显著的异构性和稀疏性，加剧了通用嵌入学习的难度。这使得在联邦推荐中实现通用物品嵌入的稳定学习既至关重要又天然难以实现。为填补这一空白，我们提出一种新的联邦推荐框架，称为Federated Recommendation with Generalized Embedding Learning(FedRecGEL)。我们从物品中心视角重新表述联邦推荐问题，将其作为多任务学习问题，以在整个训练过程中学习通用嵌入。基于理论分析，我们采用锐度感知最小化(Sharpness-Aware Minimization)来解决通用性问题，从而稳定训练过程并提升推荐性能。在四个数据集上的大规模实验表明，FedRecGEL在显著提升联邦推荐性能方面具有显著效果。我们的代码已公开于https://github.com/anonymifish/FedRecGEL。
引用
@article{arxiv.2603.11503,
title = {Sharpness-Aware Minimization for Generalized Embedding Learning in Federated Recommendation},
author = {Fengyuan Yu and Xiaohua Feng and Yuyuan Li and Changwang Zhang and Jun Wang and Chaochao Chen},
journal= {arXiv preprint arXiv:2603.11503},
year = {2026}
}
备注
Accepted by the ACM Web Conference 2026