FairImagen：用于缓解文本到图像模型偏见的后处理
机器学习
2025-10-27 v1 计算与语言
计算机视觉与模式识别
摘要
文本到图像扩散模型，如稳定扩散，已在从自然语言提示生成高质量且多样化图像方面展现出惊人的能力。然而，近期研究表明，这些模型常常复制并放大社会偏见，尤其是沿基于性别和种族等人口属性的偏见。在本文中，我们引入了 FairImagen（https://github.com/fuzihaofzh/FairImagen），一个后置去偏框架， operates on prompt embeddings 来缓解此类偏见，而无需重新训练或修改底层扩散模型。我们的方法将 Fair 主成分分析集成到 CLIP 基于的输入嵌入中，以投射到最小化特定群体信息同时保留语义内容的子空间中。我们进一步通过实证噪声注入来增强去偏效果，并提出一种统一的跨人口投影方法，使能够同时在多个人口属性上进行去偏。广泛的实验在性别、种族和交叉人口设置中表明，FairImagen 在图像质量和提示保真度之间实现了显著的公平性改进。我们的框架超越了现有的后置方法，提供了一个简单、可扩展且不依赖模型的公平文本到图像生成解决方案。
关键词
引用
@article{arxiv.2510.21363,
title = {FairImagen: Post-Processing for Bias Mitigation in Text-to-Image Models},
author = {Zihao Fu and Ryan Brown and Shun Shao and Kai Rawal and Eoin Delaney and Chris Russell},
journal= {arXiv preprint arXiv:2510.21363},
year = {2025}
}
备注
Neurips 2025