文生图生成中的性别偏见评估：综述
计算机与社会
2024-08-22 v1
摘要
文生图技术的快速发展带来了日益突出的伦理考量，尤其是性别偏见问题。给定文本提示作为输入，文生图模型会根据提示生成图像。Stable Diffusion 和 DALL-E 2 等先驱模型已展现出从自然语言提示生成高保真图像的卓越能力。然而，这些模型常常表现出性别偏见，例如，对于“软件开发者的照片”这类提示，模型倾向于生成男性形象。鉴于这些模型的广泛应用和日益增长的可及性，偏见评估对于规范文生图生成的发展至关重要。与评估图像质量或保真度的成熟指标不同，偏见评估面临挑战且缺乏标准方法。尽管与肤色等其他因素相关的偏见已得到探索，但性别偏见仍是研究最为广泛的主题。本文综述了文生图生成中性别偏见评估的最新工作，涵盖偏见评估设置、偏见评估指标以及研究发现与趋势。我们主要关注近期流行模型的评估，例如 Stable Diffusion（一种在潜空间运行并使用 CLIP 文本嵌入的扩散模型）和 DALL-E 2（一种利用 BART 等 Seq2Seq 架构的扩散模型）。通过分析近期工作并探讨趋势，我们旨在为未来研究提供见解。
引用
@article{arxiv.2408.11358,
title = {Gender Bias Evaluation in Text-to-image Generation: A Survey},
author = {Yankun Wu and Yuta Nakashima and Noa Garcia},
journal= {arXiv preprint arXiv:2408.11358},
year = {2024}
}