AI生成面孔影响性别刻板印象与种族同质化

文本到图像生成式AI模型（如Stable Diffusion）每天被全球数百万人使用。然而，这些模型在多大程度上表现出种族和性别刻板印象尚未完全明确。在此，我们记录了Stable Diffusion在六种种族、两种性别、32种职业和八种属性上的显著偏见。此外，我们考察了Stable Diffusion将同一种族个体描绘为彼此相似的程度。这一分析揭示了显著的种族同质化，例如，几乎所有中东男性都被描绘为留胡须、棕色皮肤并穿着传统服饰。然后，我们提出了去偏解决方案，允许用户在生成图像时指定期望的种族和性别分布，同时最小化种族同质化。最后，通过一项预注册调查实验，我们发现，无论图像是否被标记为AI生成，呈现包容性AI生成面孔会减少人们的种族和性别偏见，而呈现非包容性面孔则会增加此类偏见。综合来看，我们的研究结果强调了解决文本到图像模型中偏见和刻板印象的必要性。