通过对抗样本评估对话推荐系统的鲁棒性
信息检索
2023-03-13 v1 人工智能
摘要
根据标准推荐准确率指标，对话推荐系统（CRSs）正在快速改进。然而，必须确保这些系统在用户交互中具有鲁棒性，包括通过向系统输入修改后的数据来攻击系统的常规用户和恶意用户。在本文中，我们提出了一种对抗评估方案，包含两类共四种场景，并自动生成对抗样本，以评估这些系统面对不同输入数据时的鲁棒性。通过执行这些对抗样本，我们可以比较不同对话推荐系统满足用户偏好的能力。我们在两个数据集上利用所提出的对抗样本对三个CRS进行了评估。我们的结果表明，这些系统在对抗样本面前都不具备鲁棒性和可靠性。
引用
@article{arxiv.2303.05575,
title = {Evaluating the Robustness of Conversational Recommender Systems by Adversarial Examples},
author = {Ali Montazeralghaem and James Allan},
journal= {arXiv preprint arXiv:2303.05575},
year = {2023}
}
备注
10 pages