探索文本到图像基础模型下游应用中的社会偏见
计算机与社会
2023-12-19 v1 人工智能
摘要
文本到图像扩散模型已被应用于关键商业工作流程，例如艺术生成和图像编辑。表征它们所表现出的隐性社会偏见，例如性别和种族刻板印象，是避免歧视性结果的必要第一步。虽然现有的社会偏见研究侧重于图像生成，但基于扩散的基础模型在其他应用中表现出的偏见仍未得到充分探索。我们提出了使用合成图像来探测扩散模型的两个应用（图像编辑和分类）中社会偏见的方法。通过我们的方法，我们在最先进的开源文本到图像模型\textit{Stable Diffusion}中发现了有意义且显著的交叉社会偏见。我们的研究结果警示人们不要不加区分地将文本到图像基础模型用于下游任务和服务。
引用
@article{arxiv.2312.10065,
title = {Exploring Social Bias in Downstream Applications of Text-to-Image Foundation Models},
author = {Adhithya Prakash Saravanan and Rafal Kocielnik and Roy Jiang and Pengrui Han and Anima Anandkumar},
journal= {arXiv preprint arXiv:2312.10065},
year = {2023}
}