大型视觉语言模型中颜色相关社会偏见的刻板印象内容分析
计算与语言
2025-05-28 v1 人工智能
摘要
随着大型视觉语言模型 (LVLMs) 的快速发展，人们对其学习和生成社会偏见与刻板印象的潜在能力日益担忧。以往关于 LVLM 刻板印象的研究面临两个主要局限：忽视了实词重要性的评估指标，以及忽视了颜色影响的数据集。为了解决这些局限，本研究引入了基于刻板印象内容模型 (SCM) 的新评估指标。我们还提出了 BASIC，一个用于评估性别、种族和颜色刻板印象的基准。使用 SCM 指标和 BASIC，我们对八个 LVLM 进行了研究以发现刻板印象。结果，我们得出了三个发现。(1) 基于 SCM 的评估能有效捕捉刻板印象。(2) LVLM 在输出中表现出颜色刻板印象以及性别和种族刻板印象。(3) 模型架构与参数规模之间的交互作用似乎会影响刻板印象。我们在 [匿名以供评审] 上公开发布了 BASIC。
引用
@article{arxiv.2505.20901,
title = {A Stereotype Content Analysis on Color-related Social Bias in Large Vision Language Models},
author = {Junhyuk Choi and Minju Kim and Yeseon Hong and Bugeun Kim},
journal= {arXiv preprint arXiv:2505.20901},
year = {2025}
}
备注
Under review