DNN 鲁棒化保护视觉推荐系统失效的实证研究
信息检索
2020-10-05 v1 计算机视觉与模式识别
机器学习
多媒体
摘要
基于视觉的推荐系统（VRSs）通过将用户反馈与从深度神经网络（DNN）提取的商品图像视觉特征相融合来提升推荐性能。近来，人类不可感知的图像扰动（定义为对抗攻击）已被证明可改变 VRSs 的推荐表现，例如推送/打压某类商品。然而，由于对抗训练技术已证明能成功鲁棒化 DNN 以保持分类精度，据我们所知，两个重要问题尚未被研究：1）这些防御机制能在多大程度上保护 VRSs 性能？2）防御无效/有效的背后原因是什么？为回答这些问题，我们定义了一系列防御与攻击设定以及推荐模型，以实证考察防御机制的有效性。结果表明通过 DNN 鲁棒化保护 VRS 存在令人警觉的风险。我们的实验揭示了视觉特征在极有效攻击场景中的重要性。鉴于 VRSs 对众多公司的财务影响，我们相信本工作或将引发对如何有效保护基于视觉的推荐系统的研究需求。源代码与数据见 https://anonymous.4open.science/r/868f87ca-c8a4-41ba-9af9-20c41de33029/。
引用
@article{arxiv.2010.00984,
title = {An Empirical Study of DNNs Robustification Inefficacy in Protecting Visual Recommenders},
author = {Vito Walter Anelli and Tommaso Di Noia and Daniele Malitesta and Felice Antonio Merra},
journal= {arXiv preprint arXiv:2010.00984},
year = {2020}
}
备注
9 pages, 1 figure