针对下一物品推荐的实用数据投毒攻击
密码学与安全
2020-04-09 v1 信息检索
摘要
在线推荐系统利用多种信息源为用户提供其潜在感兴趣的物品。然而，由于在线平台的开放性，推荐系统易受数据投毒攻击。现有攻击方法或基于简单启发式规则，或针对特定推荐方法设计。前者常表现不佳，后者则需掌握目标系统的较强知识。本文关注通用的下一物品推荐设定，并提出一种针对黑盒推荐系统的实用投毒攻击方法 LOKI。所提 LOKI 利用强化学习算法训练攻击智能体，可用于生成用于数据投毒的用户行为样本。在真实推荐系统中，重训推荐模型成本高，且用户与推荐系统的交互频率受限。鉴于这些现实限制，我们提议让智能体与推荐模拟器交互而非目标推荐系统，并利用所生成对抗样本的可迁移性来毒化目标系统。我们还提议使用影响函数高效估计注入样本对推荐结果的影响，而无需在模拟器内重训模型。在两份数据集上针对四种代表性推荐模型的大量实验表明，所提 LOKI 优于现有方法的攻击性能。
引用
@article{arxiv.2004.03728,
title = {Practical Data Poisoning Attack against Next-Item Recommendation},
author = {Hengtong Zhang and Yaliang Li and Bolin Ding and Jing Gao},
journal= {arXiv preprint arXiv:2004.03728},
year = {2020}
}