保护视觉感知推荐系统：一种对抗图像重建与检测框架
计算机视觉与模式识别
2025-06-10 v2 人工智能
密码学与安全
机器学习
摘要
随着图像等丰富视觉数据与物品广泛关联，视觉感知推荐系统（VARS）已在各类应用中被广泛使用。近期研究表明，VARS 易受物品图像对抗攻击——即向与这些物品关联的干净图像添加人眼不可感知的扰动。对 VARS 的攻击对电子商务、社交网络等广泛使用 VARS 的大量应用构成了新的安全挑战。如何保护 VARS 免受此类对抗攻击成为一个关键问题。目前仍缺乏关于如何设计针对 VARS 视觉攻击的安全防御策略的系统性研究。本文试图填补该空白，提出一种对抗图像重建与检测框架以保护 VARS。我们提出的方法可同时（1）基于全局视觉 transformer 通过图像重建，保护 VARS 免受以局部扰动为特征的对抗攻击；以及（2）使用一种新颖对比学习方法准确检测对抗样本。同时，我们的框架被设计为既可作过滤器也可作检测器，从而可联合训练以提升防御策略对多种攻击与 VARS 模型的灵活性。我们使用两种流行攻击方法（FGSM 与 PGD）进行了广泛实验研究。在两个真实世界数据集上的实验结果表明，我们的视觉攻击防御策略有效，并在不同攻击上优于现有方法。此外，我们的方法能以高准确率检测对抗样本。
引用
@article{arxiv.2306.07992,
title = {Securing Visually-Aware Recommender Systems: An Adversarial Image Reconstruction and Detection Framework},
author = {Minglei Yin and Bin Liu and Neil Zhenqiang Gong and Xin Li},
journal= {arXiv preprint arXiv:2306.07992},
year = {2025}
}