理解 AI 生成产品描述中的性别偏见
计算与语言
2025-06-09 v1 机器学习
摘要
虽然大型语言模型（LLM）在许多领域的性别偏见问题已得到广泛研究，但 LLM 在电商领域的应用仍鲜有考察，可能揭示新的算法偏见形式及其危害。本文聚焦于此一空间，构建数据驱动的性别偏见分类体系，置于现有通用危害分类框架的语境中加以阐释。我们展示，AI 生成的产品描述以何种方式独特地暴露性别偏见，这需要专门的检测与缓解方法。进一步地，我们对两款用于此任务的模型——GPT-3.5 和电商专用 LLM——在分类对应问题上的表现进行量化分析，证明这些偏见在实际应用中较为常见。我们的结果揭示了性别偏见的独特且较少探讨的维度，如对服装尺码的假设、产品特征广告方式中的刻板偏见，以及说服性语言使用的差异。这些发现有助于理解当下框架所识别的三类 AI 危害：排斥规范、刻板化及绩效差异，尤其是针对电商场景的理解。
引用
@article{arxiv.2506.05390,
title = {Understanding Gender Bias in AI-Generated Product Descriptions},
author = {Markelle Kelly and Mohammad Tahaei and Padhraic Smyth and Lauren Wilcox},
journal= {arXiv preprint arXiv:2506.05390},
year = {2025}
}
备注
Accepted to FAccT 2025