大型语言模型在消费者产品推荐中的性别与种族偏见
计算与语言
2026-02-10 v1 人工智能
机器学习
摘要
大型语言模型日益被用于生成消费者产品推荐，但其潜在的嵌入和放大性别与种族偏见的研究仍鲜有探讨。本文是首次尝试检验这些偏见之一。我们利用提示工程从LLM中提取 various race and gender groups的产品建议，并采用三种分析方法——标记词法、支持向量机和珍斯顿-舍曼散度——来识别并量化偏见。我们的发现揭示了不同人口统计学群体的推荐存在显著差异，凸显了需要更公平的LLM推荐系统之一。
引用
@article{arxiv.2602.08124,
title = {Gender and Race Bias in Consumer Product Recommendations by Large Language Models},
author = {Ke Xu and Shera Potka and Alex Thomo},
journal= {arXiv preprint arXiv:2602.08124},
year = {2026}
}
备注
Accepted at the 39th International Conference on Advanced Information Networking and Applications (AINA 2025)