T2IAT：测量文本到图像生成中的效价与刻板偏见
计算与语言
2023-06-02 v1 人工智能
计算机视觉与模式识别
摘要
警告：本文包含若干可能具有毒性、有害或冒犯性的内容。在过去几年中，文本到图像生成模型在生成具有前所未有的质量的图像方面取得了显著成功，同时推理速度也取得了突破。尽管取得了快速进展，但在这些生成模型中仍然发现了训练样本中表现出的人类偏见，特别是关于常见的刻板偏见，如性别和肤色。在这项工作中，我们旨在测量文本到图像生成任务中存在的更复杂的人类偏见。受社会心理学中著名的内隐联想测验 (IAT) 启发，我们提出了一种新颖的文本到图像联想测验 (T2IAT) 框架，该框架量化了概念与效价之间以及图像中的内隐刻板印象。我们在生成模型上复制了先前记录的偏见测试，包括对花和昆虫的道德中性测试，以及对不同社会属性的人口统计学刻板印象测试。这些实验的结果证明了图像生成中存在复杂的刻板印象行为。
引用
@article{arxiv.2306.00905,
title = {T2IAT: Measuring Valence and Stereotypical Biases in Text-to-Image Generation},
author = {Jialu Wang and Xinyue Gabby Liu and Zonglin Di and Yang Liu and Xin Eric Wang},
journal= {arXiv preprint arXiv:2306.00905},
year = {2023}
}
备注
ACL 2023