视觉感知联邦推荐系统的操纵及其对策
信息检索
2023-05-18 v2
摘要
联邦推荐系统(FedRecs)因能保护用户数据隐私近来被广泛研究。在FedRecs中，中央服务器通过与客户端共享模型公共参数协作学习推荐模型，从而提供隐私保护方案。遗憾的是，模型参数的暴露为对手操纵FedRecs留下了后门。现有关于FedRec安全的研究已揭示恶意用户可通过模型投毒攻击轻易提升物品曝光，但它们都聚焦于仅含协同信息（即用户-物品交互）的FedRecs。我们认为这些攻击之所以有效，是因为协同信号的数据稀疏性。实践中，诸如产品视觉描述等辅助信息被用于缓解协同过滤数据的稀疏性。因此，当在FedRecs中引入视觉信息时，现有所有模型投毒攻击的有效性便存疑。本文通过大量实验验证，在合理设置下引入视觉信息可击败现有最先进攻击。然而，由于视觉信息通常由外部来源提供，简单引入会带来新的安全问题。具体而言，我们提出一种针对视觉感知FedRecs的新型投毒攻击，即图像投毒攻击，其中对手可在FedRecs训练过程中逐步修改上传图像以操纵物品排序。此外，我们揭示图像投毒攻击与模型投毒攻击的潜在协作将使视觉感知FedRecs更易被操纵。为安全使用视觉信息，我们在视觉感知FedRecs中采用扩散模型净化每张上传图像并检测对抗图像。
引用
@article{arxiv.2305.08183,
title = {Manipulating Visually-aware Federated Recommender Systems and Its Countermeasures},
author = {Wei Yuan and Shilong Yuan and Chaoqun Yang and Quoc Viet Hung Nguyen and Hongzhi Yin},
journal= {arXiv preprint arXiv:2305.08183},
year = {2023}
}