MineTheGap：自动挖掘文本到图像模型中的偏见
计算机视觉与模式识别
2025-12-16 v1 机器学习
摘要
文本到图像(TTI)模型根据文本提示生成图像，常在所需图像的某些方面存在模糊不清。在面对这些模糊时，TTI模型已显示出在解释方面的偏见。这些偏见可能对社会产生影响，例如仅显示某种种族的特定职业。它们也会影响用户体验，当在一组生成图像中产生冗余，而非跨越多样可能性时。我们引入MineTheGap—a一种自动挖掘导致TTI模型生成偏见输出的提示的方法。我们的 method 不仅针对给定提示检测偏见，更利用遗传算法迭代细化提示池，寻求暴露偏见的提示。这种优化过程由一种新颖的偏见得分驱动，该得分根据偏见的严重程度对偏见进行排序，我们在具有已知偏见的数据集上进行验证。对于给定提示，该得分为通过将生成图像的分布与构成提示变体的LLM生成文本的分布进行比较来获得。代码和示例可在项目网页上获取。
引用
@article{arxiv.2512.13427,
title = {MineTheGap: Automatic Mining of Biases in Text-to-Image Models},
author = {Noa Cohen and Nurit Spingarn-Eliezer and Inbar Huberman-Spiegelglas and Tomer Michaeli},
journal= {arXiv preprint arXiv:2512.13427},
year = {2025}
}
备注
Code and examples are available on the project's webpage at https://noa-cohen.github.io/MineTheGap/