面向推荐系统的知识增强黑盒攻击

近期研究表明，基于深度神经网络的推荐系统易受对抗攻击，攻击者可向目标推荐系统注入精心构造的虚假用户档案（即虚假用户交互过的一组物品）以达到恶意目的，例如提升或打压一组目标物品。出于安全与隐私考虑，在黑盒设定下实施对抗攻击更为实际，此时攻击者难以轻易获取目标系统的架构/参数与训练数据。然而，在资源有限且对目标系统访问受限的黑盒设定下生成高质量虚假用户档案颇具挑战。为应对该挑战，本文引入一种利用物品属性信息（即物品知识图谱）的新策略，该信息可公开获取并提供丰富的辅助知识以增强虚假用户档案的生成。更具体地，我们提出一种知识图谱增强的黑盒攻击框架（KGAttack），通过深度强化学习技术有效学习攻击策略，其中知识图谱被无缝集成到分层策略网络中以生成用于实施对抗黑盒攻击的虚假用户档案。在多个真实世界数据集上的综合实验证明了所提攻击框架在黑盒设定下的有效性。