面向视觉感知推荐系统的黑盒攻击模型
机器学习
2020-11-06 v1
摘要
由于深度学习的进展，视觉感知推荐系统（RS）近来吸引了越来越多的研究兴趣。此类系统将协同信号与图像相结合，图像通常由预训练图像模型输出的特征向量表示。由于物品目录可能非常庞大，推荐服务提供商通常依赖于物品提供商提供的图像。在这项工作中，我们表明依赖此类外部来源会使推荐系统易受攻击，攻击者的目标是不公平地推广某些被推送的物品。具体而言，我们展示了一种新的视觉攻击模型如何以黑盒方式（即不知晓模型参数）有效影响物品分数与排名。其核心基本思想是系统地创建被推送物品图像的微小人类不可感知扰动，并设计适当的梯度近似方法以逐步提升被推送物品的分数。在两个数据集上的实验评估表明，即使视觉特征对推荐系统整体性能的贡献不大，该新型攻击模型仍然有效。
引用
@article{arxiv.2011.02701,
title = {A Black-Box Attack Model for Visually-Aware Recommender Systems},
author = {Rami Cohen and Oren Sar Shalom and Dietmar Jannach and Amihood Amir},
journal= {arXiv preprint arXiv:2011.02701},
year = {2020}
}
备注
Accepted to WSDM 2021