利用目标检测分析文本到图像模型中的性别偏见
计算机视觉与模式识别
2023-07-18 v1
摘要
本工作提出了一种衡量文本到图像模型中偏见的新策略。通过使用指定性别并模糊指代某物体的成对提示（例如“一个男人/女人拿着一个物品”），我们可以考察某些物体是否与特定性别相关联。在分析 Stable Diffusion 的结果时，我们观察到男性提示更频繁地生成如领带、刀、卡车、棒球棒和自行车等物体。另一方面，女性提示更可能生成如手提包、雨伞、碗、瓶子和杯子等物体。我们希望此处概述的方法将成为检验文本到图像模型中偏见的有用工具。
引用
@article{arxiv.2307.08025,
title = {Analysing Gender Bias in Text-to-Image Models using Object Detection},
author = {Harvey Mannering},
journal= {arXiv preprint arXiv:2307.08025},
year = {2023}
}
备注
Github repo can be found at: https://github.com/harveymannering/Text-to-Image-Bias