微笑女性低头：图像生成式AI中表征性与呈现性性别偏见的审计
计算机视觉与模式识别
2024-09-13 v1 人工智能
计算机与社会
摘要
像DALL-E 2这样的生成式AI模型可以解释文本提示并生成展现人类创造力的高质量图像。尽管公众热情高涨，但对AI生成图像中潜在性别偏见的系统性审计仍然稀少。我们通过考察153个职业共15,300张DALL-E 2图像中两种职业性别偏见（表征性偏见与呈现性偏见）的普遍程度来弥补这一空白，并通过与2021年人口普查劳动力统计和Google Images基准比较来评估潜在的偏见放大。我们的发现表明，DALL-E 2在男性主导领域中低估了女性比例，而在女性主导职业中则高估了女性比例。此外，DALL-E 2图像倾向于描绘更多面带微笑且低头（向下俯仰头部）的女性而非男性，尤其是在女性主导（相对于男性主导）的职业中。我们的计算算法审计研究表明，与Google Images相比，DALL-E 2中的表征性和呈现性偏见更为显著，并呼吁采取女性主义干预措施以防止此类带有偏见的AI生成图像反馈到媒体生态中。
引用
@article{arxiv.2305.10566,
title = {Smiling Women Pitching Down: Auditing Representational and Presentational Gender Biases in Image Generative AI},
author = {Luhang Sun and Mian Wei and Yibing Sun and Yoo Ji Suh and Liwei Shen and Sijia Yang},
journal= {arXiv preprint arXiv:2305.10566},
year = {2024}
}