BiasDora：探索视觉语言模型中隐藏的偏性关联
计算与语言
2024-10-07 v2
摘要
现有研究主要聚焦于视觉语言模型（VLMs）的社会偏见，局限于已记录的偏性关联集合，如性别:职业或种族:犯罪。这种狭窄范围往往忽视大量潜在的隐性关联，限制了偏性识别与消除。我们通过探测 VLMs 来（1）跨 9 个偏性维度揭示隐藏、隐性关联；（2）系统性地探索多样化的输入与输出模态；（3）展示偏性关联在消极性、毒性与极端性上的差异。本工作（4）识别了通常被现有方法忽略的微小与极端偏性。我们公开了检索到的关联数据集 Dora（Dora），地址：https://github.com/chahatraj/BiasDora。
引用
@article{arxiv.2407.02066,
title = {BiasDora: Exploring Hidden Biased Associations in Vision-Language Models},
author = {Chahat Raj and Anjishnu Mukherjee and Aylin Caliskan and Antonios Anastasopoulos and Ziwei Zhu},
journal= {arXiv preprint arXiv:2407.02066},
year = {2024}
}
备注
Accepted to EMNLP Findings 2024