BiasConnect：研究文本到图像模型中的偏见交互
计算机视觉与模式识别
2025-03-14 v1 计算与语言
机器学习
摘要
文本到图像 (TTI) 模型表现出的偏见通常被视为相互独立的，但实际上它们可能深度关联。沿某一维度（如种族或年龄）缓解偏见，可能会无意中影响另一维度（如性别），从而减轻或加剧现有的差异。理解这些相互依赖关系对于设计更公平的生成模型至关重要，但定量测量此类效应仍是一个挑战。在本文中，我们通过引入 BiasConnect 来解决这些问题，这是一个用于分析和量化 TTI 模型中偏见交互的新型工具。我们的方法利用基于反事实的框架生成配对因果图，揭示给定文本提示下偏见交互的底层结构。此外，我们的方法提供了经验估计，表明当给定偏见被修改时，其他偏见维度如何向理想分布偏移或远离。我们的估计与偏见缓解后的相互依赖观察具有强相关性 (+0.69)。我们展示了 BiasConnect 在选择最优偏见缓解轴、比较不同 TTI 模型所学习的依赖关系以及理解 TTI 模型中交叉性社会偏见放大方面的效用。
引用
@article{arxiv.2503.09763,
title = {BiasConnect: Investigating Bias Interactions in Text-to-Image Models},
author = {Pushkar Shukla and Aditya Chinchure and Emily Diana and Alexander Tolbert and Kartik Hosanagar and Vineeth N. Balasubramanian and Leonid Sigal and Matthew A. Turk},
journal= {arXiv preprint arXiv:2503.09763},
year = {2025}
}