潜在方向：生成式 AI 中缓解偏见的简单途径
计算机视觉与模式识别
2024-06-11 v1
摘要
鉴于生成式 AI，特别是文本到图像模型在社会中的影响日益扩大，缓解其中的偏见具有重要意义。用于训练的有偏数据集对确保这些模型的负责任发展提出了挑战，而通过硬提示或嵌入修改进行缓解是目前最常见的解决方案。我们的工作引入了一种新颖的方法，通过在潜在空间中学习一个方向并仅修改为扩散过程提供的初始高斯噪声，来实现多样化和包容性的合成图像。在保持中性提示词和嵌入不变的情况下，该方法成功适应了多种去偏场景，例如地理偏见。此外，我们的工作证明了可以线性组合这些学习到的潜在方向以引入新的缓解措施，并在需要时将其与文本嵌入调整相结合。另外，除非进行视觉检查，文本到图像模型缺乏评估输出偏见的透明度。因此，我们提供了一个工具，使开发者能够选择他们期望缓解的概念。项目页面和代码已在线提供。
引用
@article{arxiv.2406.06352,
title = {Latent Directions: A Simple Pathway to Bias Mitigation in Generative AI},
author = {Carolina Lopez Olmos and Alexandros Neophytou and Sunando Sengupta and Dim P. Papadopoulos},
journal= {arXiv preprint arXiv:2406.06352},
year = {2024}
}
备注
Accepted at CVPR workshop 2024, proceedings of ReGenAI: First Workshop on Responsible Generative AI