论 LLM 表示中性别与职业的相互影响
计算与语言
2025-03-11 v1
摘要
我们检查了 LLM 在各种职业背景下对名字的性别表示，以研究职业和 LLM 中名字的性别感知如何相互影响。我们发现，LLM 的名字性别表示与名字相关的真实世界性别统计数据相关，并受到刻板印象中女性或男性职业共现的影响。此外，我们在下游职业预测任务中研究了名字性别表示对 LLM 的影响，及其作为识别外部模型偏差的内部指标的潜力。虽然女性名字嵌入通常会提高女性主导工作的概率（男性主导工作则相反），但可靠地使用这些内部性别表示进行偏差检测仍然具有挑战性。
引用
@article{arxiv.2503.06792,
title = {On the Mutual Influence of Gender and Occupation in LLM Representations},
author = {Haozhe An and Connor Baumler and Abhilasha Sancheti and Rachel Rudinger},
journal= {arXiv preprint arXiv:2503.06792},
year = {2025}
}
备注
In submission