警惕偏差：认知偏差对 LLM 驱动产品推荐的影响
计算与语言
2025-10-23 v4
摘要
大型语言模型（LLMs）的出现彻底改变了产品推荐系统，然而它们易受对抗性操纵的弱点带来了严峻挑战，尤其是在现实世界的商业应用中。我们的方法是首个利用人类心理学原理，无缝修改产品描述，使得此类操纵难以被检测。在这项工作中，我们将认知偏差作为黑盒对抗策略进行研究，并类比了它们对 LLMs 和人类购买行为的影响。通过跨不同规模模型的广泛评估，我们发现某些偏差，如社会认同，能持续提升产品推荐率和排名，而其他偏差，如稀缺性和排他性，却出人意料地降低了可见度。我们的结果表明，认知偏差已深深嵌入最先进的 LLMs 中，导致产品推荐行为高度不可预测，并为有效缓解带来了重大挑战。
引用
@article{arxiv.2502.01349,
title = {Bias Beware: The Impact of Cognitive Biases on LLM-Driven Product Recommendations},
author = {Giorgos Filandrianos and Angeliki Dimitriou and Maria Lymperaiou and Konstantinos Thomas and Giorgos Stamou},
journal= {arXiv preprint arXiv:2502.01349},
year = {2025}
}
备注
Accepted at EMNLP 2025