提示修饰符能控制偏见吗？文本到图像生成模型的比较分析
计算机视觉与模式识别
2024-06-11 v1 计算与语言
摘要
已有研究表明，许多生成模型继承并放大了社会偏见。迄今为止，尚无统一/系统的公认标准来控制/调整这些偏见。本研究考察了领先的文本到图像模型（Stable Diffusion、DALL-E 3和Adobe Firefly）中社会偏见的存在与操控。通过结合基础提示、修饰符及其顺序的综合分析，我们揭示了这些AI技术在性别、种族、地理和地域/文化方面编码偏见的微妙方式。我们的发现揭示了提示工程在控制偏见方面的挑战和潜力，强调了促进多样性和包容性的伦理AI开发的迫切需求。这项工作推进了AI伦理，不仅揭示了文本到图像生成模型中偏见的微妙动态，而且为未来控制偏见的研究提供了一个新颖框架。我们的贡献——涵盖比较分析、提示修饰符的策略性使用、提示顺序效应的探索以及偏见敏感性分类法的引入——为开发通用指标和标准分析奠定了基础，以评估未来AI模型是否以及如何表现出偏见并对调整固有偏见的请求做出响应。
引用
@article{arxiv.2406.05602,
title = {Can Prompt Modifiers Control Bias? A Comparative Analysis of Text-to-Image Generative Models},
author = {Philip Wootaek Shin and Jihyun Janice Ahn and Wenpeng Yin and Jack Sampson and Vijaykrishnan Narayanan},
journal= {arXiv preprint arXiv:2406.05602},
year = {2024}
}