生成模型如何绘制一位软件工程师？关于 Stable Diffusion 偏见的案例研究
软件工程
2025-08-07 v2 人工智能
摘要
生成模型如今广泛用于生成用于多种目的（如网页、艺术、广告）的图形内容。然而，已显示出这些模型生成的图像可能在特定情境下强化既有的社会偏见。本文聚焦于理解这些模型在生成与软件工程相关任务相关的图像时是否存在偏见。事实上，软件工程（SE）社区并不免于性别和族群差异，这些差异可能被这些模型放大。因此，如果不加以注意，人为生成的图像可能在 SE 领域强化这些偏见。具体而言，我们对三个版本的 Stable Diffusion（SD）模型（一个非常流行的开源文本到图像模型）——SD 2、SD XL 和 SD 3——针对 SE 任务暴露的性别和族群偏见进行了广泛的实证评估。我们通过为每个模型提供两套描述不同软件相关任务的提示生成了 6,720 张图像：一套包括 Software Engineer 关键词，另一套不包含任何指定执行任务的人的提示。随后我们评估了生成图像中的性别和族群差异。结果显示，所有模型在代表软件工程师时都显著偏向男性形象。相反，虽然 SD 2 和 SD XL 对白人形象存在强烈偏见，SD 3 稍微偏向亚洲人形象。然而，所有模型无论使用哪种提示方式，都显著低估了黑人和阿拉伯人形象。本次分析的结果凸显了在 SE 任务中采用这些模型存在严重关切，为该领域的偏见缓解研究开辟了研究之路。
关键词
引用
@article{arxiv.2501.09014,
title = {How Do Generative Models Draw a Software Engineer? A Case Study on Stable Diffusion Bias},
author = {Tosin Fadahunsi and Giordano d'Aloisio and Antinisca Di Marco and Federica Sarro},
journal= {arXiv preprint arXiv:2501.09014},
year = {2025}
}