从大语言模型解析下游性别偏见：一项关于 AI 教育写作辅助的研究
计算与语言
2023-11-07 v1 计算机与社会
摘要
大语言模型（LLMs）正日益用于教育任务，例如为学生提供写作建议。尽管有潜力，LLMs 已知带有固有偏见，可能对学习者产生负面影响。先前的研究分别考察了模型和数据显示中的偏见，忽视了 LLM 偏见对人类写作的潜在影响。在本文中，我们研究偏见如何通过 AI 写作支持流水线传递。我们对 231 名用德语撰写商业案例同伴评审的学生开展了大规模用户研究。学生被分为五组，具有不同水平的写作支持：一个具有基于特征建议的课堂组，以及从 Prolific 招募的四组——无辅助的对照组、两组分别来自微调 GPT-2 和 GPT-3 模型建议的组，以及一组来自预训练 GPT-3.5 建议的组。使用 GenBit 性别偏见分析、词嵌入关联测试（WEAT）和句子嵌入关联测试（SEAT），我们评估了流水线各阶段的性别偏见：模型嵌入中、模型生成的建议中，以及学生撰写的评审中。我们的结果表明，有和没有 LLM 建议的组的所得同伴评审之间在性别偏见上无显著差异。因此，我们的研究对课堂中使用 AI 写作支持持乐观态度，展示了一个 LLM 中偏见不向学生回应传递的情境。
引用
@article{arxiv.2311.03311,
title = {Unraveling Downstream Gender Bias from Large Language Models: A Study on AI Educational Writing Assistance},
author = {Thiemo Wambsganss and Xiaotian Su and Vinitra Swamy and Seyed Parsa Neshaei and Roman Rietsche and Tanja Käser},
journal= {arXiv preprint arXiv:2311.03311},
year = {2023}
}
备注
Accepted as a full paper at EMNLP Findings 2023