操纵联邦推荐系统：基于合成用户的投毒攻击及其对策

联邦推荐系统（FedRecs）被视为在不共享用户数据的情况下协作学习推荐模型的隐私保护技术。由于所有参与者都可通过上传梯度直接影响系统，FedRecs 易受恶意客户端的投毒攻击。然而，现有大多数针对 FedRecs 的投毒攻击要么基于某些先验知识，要么效果有限。为揭示 FedRecs 的真实漏洞，本文提出一种新型投毒攻击方法，在无需任何先验知识的情况下，有效操纵 top-$K$ 推荐中目标物品的排名与曝光率。具体而言，我们的攻击通过一组合成恶意用户来操纵目标物品的曝光率，这些用户上传考虑目标物品替代产品的毒化梯度。我们在两个真实推荐数据集上基于两种广泛使用的 FedRecs（Fed-NCF 和 Fed-LightGCN）进行了大量实验。实验结果表明，与最先进攻击相比，我们的攻击能以极少的恶意用户和更少的全局训练轮数显著提升冷门目标物品的曝光率。除披露安全漏洞外，我们设计了一种针对 FedRecs 投毒攻击的新对策。具体而言，我们提出分层梯度裁剪与稀疏化更新以防御现有投毒攻击。实证结果表明，所提防御机制提升了 FedRecs 的鲁棒性。