关于文本到图像生成模型公平性、多样性与可靠性的研究
计算机视觉与模式识别
2025-05-27 v2 人工智能
摘要
多模态生成模型的快速普及引发了关于其可靠性、公平性以及潜在滥用潜力的严肃讨论。虽然文本到图像模型在生成高保真、用户导向内容方面表现出色，但它们往往表现出不可预测的行为和脆弱性，这些行为和脆弱性可以被利用来操纵类或概念表示。为此，我们提出了一个评估框架，通过分析嵌入空间中对全局和局部扰动的响应来评估模型可靠性，从而识别会触发不可靠或偏置行为的输入。除了社会影响之外，公平性和多样性对于定义稳健可信的模型行为至关重要。我们的方法通过评估以下方面来提供更深入的见解：(i)生成多样性，衡量对已学习概念的视觉表示的广度；(ii)生成公平性，这检查在低引导设置下，从输入提示中删除概念对控制的影响。除了这些评估之外，我们的方法为检测不可靠的、带偏置的模型以及追踪嵌入偏置的来源奠定了基础。我们的代码已公开发布，地址为 https://github.com/JJ-Vice/T2I_Fairness_Diversity_Reliability。
引用
@article{arxiv.2411.13981,
title = {On the Fairness, Diversity and Reliability of Text-to-Image Generative Models},
author = {Jordan Vice and Naveed Akhtar and Leonid Sigal and Richard Hartley and Ajmal Mian},
journal= {arXiv preprint arXiv:2411.13981},
year = {2025}
}
备注
This research is supported by the NISDRG project #20100007, funded by the Australian Government