基于帕累托前沿评估文本到图像模型公平性-效用权衡的框架
计算机视觉与模式识别
2025-08-26 v1
摘要
实现文本到图像生成中的公平性，需在不损害视觉保真度的前提下缓解社会偏见，这一挑战对于负责任的 AI 至关重要。当前的文本到图像模型公平性评估方法依赖于定性判断或狭义比较，限制了对公平性和效用进行综合评估的能力，并阻碍了去偏方法的可重复评估。现有方法通常采用非标准的人类中心视觉检查，既容易出错，又难以复制。我们提出了一种利用帕累托最优前沿对文本到图像模型的公平性和效用进行评估的方法。该方法允许在不同去偏方法的超参数化配置之间进行比较，概述所有在给定效用下优化公平性或反之的配置。为说明评估方法，我们采用归一化香农熵和 ClipScore 分别用于公平性和效用评估。我们评估了 Stable Diffusion、Fair Diffusion、SDXL、DeCoDi 和 FLUX 等文本到图像模型。我们的方法显示，大多数默认的文本到图像模型超参数配置在公平性-效用空间中是被支配解， finding 更好的超参数配置非常简单。
引用
@article{arxiv.2508.16752,
title = {A Framework for Benchmarking Fairness-Utility Trade-offs in Text-to-Image Models via Pareto Frontiers},
author = {Marco N. Bochernitsan and Rodrigo C. Barros and Lucas S. Kupssinskü},
journal= {arXiv preprint arXiv:2508.16752},
year = {2025}
}