解释的阴暗面：用反事实样本毒化推荐系统
信息检索
2023-05-02 v1
摘要
基于深度学习的推荐系统已成为多个在线平台不可或缺的组成部分。然而，其黑盒特性凸显了可解释人工智能（XAI）方法的必要性，以向用户提供了人类可理解的原因，说明为何向特定用户推荐某物品。反事实解释（CF）便是这样的方法之一。尽管 CF 对用户与系统设计者大有裨益，恶意行为者也可能利用这些解释破坏系统安全。本工作中，我们提出 H-CARS，一种通过 CF 毒化推荐系统的新策略。具体而言，我们首先基于从反事实解释导出的训练数据训练一个基于逻辑推理的替代模型。通过逆转推荐模型的学习过程，我们进而为该替代模型开发了一种高效的贪心算法，以生成伪造的用户档案及其关联的交互记录。我们的实验采用一种知名 CF 生成方法，并在两个不同数据集上进行，结果表明 H-CARS 取得了显著且成功的攻击性能。
引用
@article{arxiv.2305.00574,
title = {The Dark Side of Explanations: Poisoning Recommender Systems with Counterfactual Examples},
author = {Ziheng Chen and Fabrizio Silvestri and Jia Wang and Yongfeng Zhang and Gabriele Tolomei},
journal= {arXiv preprint arXiv:2305.00574},
year = {2023}
}
备注
To be published in SIGIR2023