探索 100 多个文本到图像生成模型中的偏差
计算机视觉与模式识别
2025-03-12 v1 人工智能
摘要
我们研究了文本到图像生成模型随时间推移的偏差趋势，重点关注通过 Hugging Face 等开放平台日益增多的可用模型。虽然这些平台使 AI 大众化，但它们也促进了固有偏差模型的传播，这些偏差通常由特定任务的微调所导致。确保合乎伦理且透明的 AI 部署需要稳健的评估框架和可量化的偏差指标。为此，我们评估了三个关键维度的偏差： 分布偏差， 生成幻觉，以及 生成漏检率。通过分析 100 多个模型，我们揭示了偏差模式随时间和生成任务如何演变。我们的发现表明，艺术和风格迁移模型表现出显著的偏差，而受益于更广泛训练分布的基础模型正逐渐变得不那么有偏差。通过识别这些系统性趋势，我们提供了一个大规模评估语料库，为偏差研究和缓解策略提供信息，促进更负责任的 AI 开发。关键词：偏差，伦理 AI，文本到图像，生成模型，开源模型
引用
@article{arxiv.2503.08012,
title = {Exploring Bias in over 100 Text-to-Image Generative Models},
author = {Jordan Vice and Naveed Akhtar and Richard Hartley and Ajmal Mian},
journal= {arXiv preprint arXiv:2503.08012},
year = {2025}
}
备注
Accepted to ICLR 2025 Workshop on Open Science for Foundation Models (SCI-FM)