去中心化协同推荐系统的投毒攻击及其对策

为了兼顾隐私和效率，许多推荐系统的部署正经历从中心服务器到个人设备的转变，其中联邦推荐系统（FedRecs）和去中心化协同推荐系统（DecRecs）可以说是两种最具代表性的范式。虽然两者都利用知识（例如梯度）共享来促进局部模型的学习，但FedRecs依赖中央服务器来协调优化过程，而在DecRecs中，知识共享直接在客户端之间进行。知识共享也为模型投毒攻击打开了后门，攻击者伪装成良性客户端，传播污染的知识以实现恶意目标，例如提升某个项目的曝光率。尽管对此类投毒攻击的研究为发现安全漏洞和制定相应对策提供了宝贵见解，但现有攻击主要关注FedRecs，并且要么不适用于DecRecs，要么对其无效。与FedRecs中被篡改的信息一旦上传到云端即可普遍分发给所有客户端不同，DecRecs中的每个攻击者只能与少量邻居客户端通信，将其影响限制在有限范围内。为了填补这一空白，我们提出了一种名为自适应恶意邻居投毒（PAMN）的新型攻击方法。以Top-K推荐中的项目推广为攻击目标，PAMN通过多个模拟良性客户端的攻击者，并根据每个攻击者的邻居情况自适应地传递精心设计的梯度，有效提升了目标项目的排名。此外，在揭示DecRecs的漏洞后，我们提出了一种基于用户级梯度裁剪和稀疏化更新的专用防御机制。大量实验证明了该投毒攻击的有效性以及我们防御机制的鲁棒性。