通过虚假评论生成对黑盒基于评论的推荐系统进行托攻击
信息检索
2023-06-30 v1 机器学习
社会与信息网络
摘要
基于评论的推荐系统（RBRS）因其缓解众所周知的冷启动问题的能力而吸引了越来越多的研究兴趣。RBRS利用评论来构建用户和物品的表示。然而，在本文中，我们认为这种对评论的依赖反而可能使系统面临被托攻击的风险。为探索这种可能性，本文提出了首个针对RBRS的基于生成的托攻击模型。具体而言，我们通过强化学习训练一个虚假评论生成器，通过在系统中添加生成的评论来强制预测偏移，从而恶意提升物品。通过引入辅助奖励，在预训练语言模型和方面预测器的辅助下提升文本流畅性与多样性，所生成的评论能够高效且高保真地用于托攻击。实验结果表明，所提出的框架能够成功攻击Amazon语料库（含三个领域）和Yelp语料库上的三种不同RBRS。此外，人工评估也表明生成的评论流畅且信息丰富。最后，配备攻击评论生成器（ARG）的RBRS经对抗训练后对恶意评论的鲁棒性显著增强。
引用
@article{arxiv.2306.16526,
title = {Shilling Black-box Review-based Recommender Systems through Fake Review Generation},
author = {Hung-Yun Chiang and Yi-Syuan Chen and Yun-Zhu Song and Hong-Han Shuai and Jason S. Chang},
journal= {arXiv preprint arXiv:2306.16526},
year = {2023}
}