大语言模型佩戴帕拉：通过线上购物数据分析性别偏见与刻板印象

随着大型语言模型在广泛且跨领域的应用，其背后的训练数据中的统计相关性——这正是其惊人性能的基础——可能隐藏细微且潜在令人关心的偏见。性别偏见在大语言模型中已被广泛研究，主要从通常与特定性别相关的工作、兴趣和情感等角度进行考察。在本研究中，我们提出了一种新颖的视角。我们调查大语言模型是否仅仅基于用户的线上购物历史即可预测其性别，以及这些预测是否受性别偏见和刻板印象的影响。我们使用来自美国用户的历史线上购买数据集，评估了六个大语言模型的性别分类能力，然后分析了它们的推理过程和产品-性别共现情况。结果表明，虽然模型能够以中等准确率推断性别，但其决策往往根植于产品类别与性别之间的刻板印象关联。此外，明确的偏见缓和指令会降低模型预测的确定性，但并不能消除刻板印�象模式。我们的发现凸显了大语言模型中性别偏见的持久性，并强调了需要 robust 偏见缓和策略的必要性。