我们能否消除AI生成图像中的社会刻板印象？——对文本到图像输出与用户感知的审视

生成式AI的最新进展已能通过文本到图像（T2I）生成实现视觉内容创作。然而，尽管T2I模型具有创造潜力，它们常常复制并放大社会刻板印象——尤其是与性别、种族和文化相关的刻板印象——引发了重要的伦理关切。本文提出了一套理论驱动的偏差检测准则和一个社会刻板印象指数（SSI），以系统评估T2I输出中的社会偏见。我们使用跨地理文化、职业和形容词三个类别的100个查询，审计了三个主流T2I模型——DALL-E-3、Midjourney-6.1和Stability AI Core——的输出。我们的分析揭示，初始输出容易包含刻板化的视觉线索，包括性别化的职业、文化标记和西方审美标准。为解决此问题，我们采用所提出的准则，利用大语言模型（LLM）进行有针对性的提示优化，这显著降低了偏差——地理文化类查询的SSI下降了61%，职业类下降69%，形容词类下降51%。我们通过一项用户研究补充了定量分析，该研究考察了人们对AI生成的有偏见图像的感知、意识和偏好。我们的发现揭示了一个关键矛盾——尽管提示优化可以减轻刻板印象，但它可能限制上下文对齐。有趣的是，用户通常认为刻板印象图像更符合他们的预期。我们讨论了在伦理去偏与上下文相关性之间取得平衡的必要性，并呼吁构建既能支持全球多样性和包容性，又不损害反映现实世界社会复杂性的T2I系统。