OpenBias：文本到图像生成模型中的开放集偏差检测

文本到图像生成模型正变得越来越受欢迎，并逐渐向大众普及。随着这些模型的大规模部署，有必要深入调查其安全性和公平性，以避免传播和延续任何形式的偏差。然而，现有工作主要集中在检测先验定义的封闭偏差集上，将研究局限于广为人知的概念。在本文中，我们应对文本到图像生成模型中开放集偏差检测的挑战，提出 OpenBias，这是一种新的流水线，能够在不访问任何预编译集合的情况下，不可知地识别偏差并量化其严重程度。OpenBias 包含三个阶段。在第一阶段，我们利用大型语言模型 (LLM) 根据一组字幕提出偏差。其次，目标生成模型使用相同的字幕集生成图像。最后，视觉问答模型识别先前提出的偏差的存在与否及其程度。我们研究了 Stable Diffusion 1.5、2 和 XL 的行为，强调了以前从未被研究过的新偏差。通过定量实验，我们证明 OpenBias 与当前的封闭集偏差检测方法及人类判断相一致。