披露 LLM 投资推荐中的产品偏见
计算与语言
2025-03-13 v1 人工智能
信息检索
摘要
大语言模型（LLMs）作为新一代推荐引擎，具备强大的摘要和数据分析能力，超越了传统推荐系统在范围和性能上的表现。其中一种有前景的应用是投资推荐。本文揭示了 LLM 投资推荐中的一种新型产品偏见，即 LLMs 对特定产品表现出系统性偏好。这种偏好可能会微妙影响用户的投资决策，潜在导致产品估值虚高和金融泡沫，构成对个人投资者和市场稳定性的风险。为了全面研究产品偏见，我们开发了一个自动化管道，创建了包含 567,000 个样本的 数据集，覆盖五个资产类别（股票、共同基金、加密货币、储蓄和投资组合）。有了这个数据集，我们首次系统性地研究了 LLM 投资推荐中的产品偏见。我们的发现表明，LLMs 展现出明确的产品偏好，如特定股票（例如来自苹果公司的 `AAPL' 和来自微软公司的 `MSFT'）。值得注意的是，即使应用去偏技术，该偏见仍然存在。我们呼吁 AI 研究者注意到 LLM 投资推荐中的产品偏见及其影响，确保数字空间和市场的公平性和安全性。
引用
@article{arxiv.2503.08750,
title = {Exposing Product Bias in LLM Investment Recommendation},
author = {Yuhan Zhi and Xiaoyu Zhang and Longtian Wang and Shumin Jiang and Shiqing Ma and Xiaohong Guan and Chao Shen},
journal= {arXiv preprint arXiv:2503.08750},
year = {2025}
}