当汽车带有刻板印象：审计文本到图像模型中生成对象的人口统计学偏差
计算机视觉与模式识别
2025-08-12 v2 人工智能
摘要
虽然先前关于文本到图像生成的研究主要集中在人类描绘中的偏差，但我们调查了一种更微妙却普遍存在的现象：生成对象（例如汽车）中的人口统计学偏差。我们引入了 SODA（Stereotyped Object Diagnostic Audit），这是一个用于系统测量此类偏差的新颖框架。我们的方法比较了由三个 SOTA 模型（GPT Image-1、Imagen 4 和 Stable Diffusion）在五个对象类别中生成的 2,700 张图像中，带有人口统计学线索（例如“针对年轻人”）生成的对象与来自中性提示词生成的对象的视觉属性。通过全面分析，我们发现了特定人口群体与视觉属性之间的强烈关联，例如由性别或种族线索引发的反复出现的颜色模式。这些模式不仅反映并强化了众所周知的刻板印象，也体现了更微妙和不直观的偏差。我们还观察到，一些模型生成的输出多样性较低，这反过来放大了与中性提示词相比的视觉差异。我们提出的审计框架为测试提供了一种实用的方法，揭示了当今生成模型中仍然嵌入的刻板印象。我们将此视为迈向更系统、更负责任的 AI 开发的重要一步。
引用
@article{arxiv.2508.03483,
title = {When Cars Have Stereotypes: Auditing Demographic Bias in Objects from Text-to-Image Models},
author = {Dasol Choi and Jihwan Lee and Minjae Lee and Minsuk Kahng},
journal= {arXiv preprint arXiv:2508.03483},
year = {2025}
}