UA-FedRec：联邦新闻推荐中的无目标攻击
信息检索
2023-06-09 v2
摘要
新闻推荐对于个性化新闻分发至关重要。联邦新闻推荐能够从许多客户端协作学习模型而无需共享其原始数据。它在隐私保护新闻推荐方面具有前景。然而，联邦新闻推荐的安全性仍不明确。本文通过提出一种称为 UA-FedRec 的无目标攻击来研究该问题。通过利用新闻推荐与联邦学习的先验知识，UA-FedRec 可用小比例恶意客户端有效降低模型性能。首先，新闻推荐的有效性高度依赖于用户建模与新闻建模。我们设计了一种新闻相似度扰动方法，使相似新闻的表示更远、不相似新闻的表示更近，以打断新闻建模，并提出一种用户模型扰动方法，使恶意用户更新方向与良性更新相反，以打断用户建模。其次，来自不同客户端的更新通常按其样本量加权平均聚合。我们提出一种数量扰动方法，在合理范围内扩大恶意客户端的样本量，以放大恶意更新的影响。在两个真实世界数据集上的大量实验表明，即使应用了防御，UA-FedRec 仍能有效降低现有联邦新闻推荐方法的准确性。我们的研究揭示了现有联邦新闻推荐系统中的关键安全问题，并呼吁研究力量解决该问题。
引用
@article{arxiv.2202.06701,
title = {UA-FedRec: Untargeted Attack on Federated News Recommendation},
author = {Jingwei Yi and Fangzhao Wu and Bin Zhu and Jing Yao and Zhulin Tao and Guangzhong Sun and Xing Xie},
journal= {arXiv preprint arXiv:2202.06701},
year = {2023}
}
备注
Accepted by KDD 2023