推荐系统嵌入上的多步对抗扰动

信息检索 2020-10-06 v1 密码学与安全

作者: Vito Walter Anelli , Alejandro Bellogín , Yashar Deldjoo , Tommaso Di Noia , Felice Antonio Merra

摘要

推荐系统(RSs)在学习用户偏好并帮助用户找到最合适产品方面取得了卓越性能。计算机视觉领域中对抗机器学习(AML)的最新进展引发了人们对最先进基于模型的推荐系统安全性的关注。最近,当机器学习得到的对抗扰动污染模型参数时,若干最先进的基于模型的推荐系统(如 BPR-MF)被确认存在推荐精度的令人担忧的下降。然而,虽然单步快速梯度符号法(FGSM)是被探索最多的扰动策略,但在计算机视觉领域表现出更高效力的多步(迭代)扰动策略,在推荐任务中却极少被研究。受 CV 领域提出的基础迭代法(BIM)和投影梯度下降(PGD)策略的启发,本文将多步策略适配于物品推荐任务,以研究基于嵌入的推荐模型在最小对抗扰动下的可能弱点。在固定扰动幅度的前提下,我们通过在两个广泛使用的推荐数据集上的大量实证评估,说明了多步扰动相比单步扰动的最高效力。此外,我们研究了结构数据集特征(即稀疏性、密度和规模)对所提出扰动引起的性能下降的影响,以支持推荐系统设计师解释由于模型参数的微小变化而导致的推荐性能变化。我们的实现和数据集可在 https://anonymous.4open.science/r/9f27f909-93d5-4016-b01c-8976b8c14bc5/ 获取。

关键词

对抗扰动推荐系统基于嵌入的模型多步攻击物品推荐 BPR-MF 数据集稀疏性

引用

@article{arxiv.2010.01329,
  title  = {Multi-Step Adversarial Perturbations on Recommender Systems Embeddings},
  author = {Vito Walter Anelli and Alejandro Bellogín and Yashar Deldjoo and Tommaso Di Noia and Felice Antonio Merra},
  journal= {arXiv preprint arXiv:2010.01329},
  year   = {2020}
}

备注

10 pages, 3 figures, 1 table

推荐系统嵌入上的多步对抗扰动

摘要

关键词

引用

备注

相关论文