通过内容扰动对新闻推荐系统实施定向数据投毒攻击
密码学与安全
2022-03-11 v2 人工智能
信息检索
机器学习
摘要
新闻推荐系统(NRS)已成为众多在线新闻服务的基础技术。同时，若干研究表明推荐系统(RS)易受数据投毒攻击，攻击者有能力误导系统按其意图运行。一种被广泛研究的攻击方法——注入虚假用户——在NRS被当作物品固定的其他系统对待时可应用于NRS。然而，在NRS中，由于每个物品（即新闻）信息量更大，我们提出一种新颖的NRS投毒方法，即扰动某些已浏览新闻的内容，从而操纵目标新闻的排序。直观上，若攻击极可能被发现（即暴露），则毫无用处。为此，我们引入暴露风险的概念，并提出一个通过扰动攻击历史新闻数据集的新问题，其目标是在给定预算下最大化目标新闻排序的操纵程度，同时将暴露风险控制在预算之内。我们设计了一个称为TDP-CP的强化学习框架，其包含两阶段分层模型以缩减搜索空间。同时，还应用影响估计以节省为获取奖励而重训练NRS的时间。我们在三种NRS及不同目标新闻上测试了TDP-CP的性能。实验表明，TDP-CP能在有限暴露预算下成功提升目标新闻的排序。
引用
@article{arxiv.2203.03560,
title = {Targeted Data Poisoning Attack on News Recommendation System by Content Perturbation},
author = {Xudong Zhang and Zan Wang and Jingke Zhao and Lanjun Wang},
journal= {arXiv preprint arXiv:2203.03560},
year = {2022}
}