揭示大型语言模型中的性别偏见：以高等教育中的教师评估为例
计算与语言
2024-09-17 v1
摘要
本文探讨了大型语言模型(LLM)生成的教师评估中的性别偏见，具体聚焦于在高等教育场景中由GPT-4生成的六个学科的评估结果。通过应用包括机会比值(OR)分析、词嵌入关联测试(WET)、情感分析和情境分析于内的综合分析框架，本文识别出反映社会刻板印象的性别关联语言模式。具体而言，针对女性教师的用词更频繁地涉及易接近性和支持，而针对男性教师的用词则主要涉及娱乐，符合群体性和主体性行为的概念。该研究还发现，男性显著形容词与男性姓名之间存在中等至强烈的关联，尽管职业和家庭词汇并未明确捕捉到性别偏见。这些发现与先前关于社会规范和刻板印象的研究相吻合，强化了LLM生成的文本反映现有偏见的观念。
引用
@article{arxiv.2409.09652,
title = {Unveiling Gender Bias in Large Language Models: Using Teacher's Evaluation in Higher Education As an Example},
author = {Yuanning Huang},
journal= {arXiv preprint arXiv:2409.09652},
year = {2024}
}