幸福的年轻女性，郁闷的老年人？情感驱动的人口统计偏见研究

合成人脸生成技术近年来迅速进步，尤其是受益于文本到图像（T2I）和多模态大语言模型的出现，使得能够从自然语言提示生成高保真图像。尽管这些工具广泛采用，但这些模型在偏见、表征质量以及跨文化一致性方面的表现仍不为人所了解。先前的研究在合成生成人类面孔的偏见问题上已有探讨，但关于情感提示如何影响人口统计代表性以及不同文化和语言背景下的模型在输出分布方面的差异却鲜有研究。我们对八个最先进的 T2I 模型进行了系统审计，这些模型包括四个由西方组织开发的模型和四个由中国机构开发的模型，所有模型的提示方式一致。使用最先进的面部分析算法，我们估计生成人脸的性别、种族、年龄和吸引力水平。为衡量其与全球人口统计数据之间的偏差，我们应用信息论偏差指标，包括 Kullback-Leibler 散度和 Jensen-Shannon 散度。我们的发现表明，无论模型来自哪个国家，所有模型都存在持续的人员统计偏差和情感条件偏差。我们讨论了对公平性、社会技术性伤害、治理以及透明生成系统开发的影响。