无 ID 推荐系统为何不风险？LLM 驱动的智能体揭示 ID-Free 推荐系统的风险
信息检索
2025-04-29 v3
摘要
近期 ID-free 推荐系统的进展因能有效解决冷启动问题而引起广泛关注。然而，这些系统对恶意攻击的脆弱性尚未得到充分探讨。本文揭示了一个被忽视的关键风险：LLM 驱动的智能体可被策略性部署以黑盒方式攻击 ID-free 推荐系统，窃取低质量商品的推广。该攻击利用一种新颖的基于重写的欺骗策略，恶意智能体通过模拟热门商品的特征来合成欺骗性文本描述。为实现此目标，攻击机制集成了两个主要组成部分：(1) 一种基于热度提取的组件，用于捕捉热门商品的关键特征；(2) 一种多智能体协作机制，使促销文本描述得以通过独立思考和团队讨论进行迭代细化。为对抗此风险，我们进一步引入了一种检测方法，以识别来自本文发现的攻击的可疑文本。通过揭示这一风险，本文旨在强调提升 ID-free 推荐系统安全性的紧迫需求。
引用
@article{arxiv.2409.11690,
title = {ID-Free Not Risk-Free: LLM-Powered Agents Unveil Risks in ID-Free Recommender Systems},
author = {Zongwei Wang and Min Gao and Junliang Yu and Xinyi Gao and Quoc Viet Hung Nguyen and Shazia Sadiq and Hongzhi Yin},
journal= {arXiv preprint arXiv:2409.11690},
year = {2025}
}
备注
10 pages