面向投毒推荐系统的检索增强评论生成

近期研究表明，推荐系统（RSs）极易受到数据投毒攻击，恶意行为者通过注入包含一组精心设计的虚假评分的虚假用户画像来操纵推荐结果。由于实践中的安全与隐私限制，攻击者通常对受害系统了解有限，因此需要构建在黑盒推荐系统间具有可迁移性的画像。为最大化攻击影响，这些画像通常需保持隐蔽性。然而，在资源受限的情况下生成如此高质量的画像极具挑战。部分研究建议加入虚假文本评论以增强画像，但在实际场景下，评论质量低下会严重削弱攻击的有效性和隐蔽性。为应对上述挑战，本文提出利用多模态基础模型的上下文学习（ICL）能力来提升评论文本质量。为此，我们引入了一种演示检索算法和一种文本风格迁移策略来增强朴素上下文学习。具体而言，我们提出了一种名为 RAGAN 的新型实用攻击框架，用于生成高质量的虚假用户画像，从而洞察推荐系统的鲁棒性。这些画像由一个越狱器生成，并在一个指令代理和一个守护者上协同优化，以提高攻击的可迁移性和隐蔽性。在多个真实世界数据集上的综合实验表明，RAGAN 实现了当前最优的投毒攻击性能。