拒绝即沉默：视觉语言模型响应中的性别差异
计算机视觉与模式识别
2025-10-28 v3 人工智能
计算机与社会
人机交互
摘要
大型语言模型的拒绝行为在内容 moderation 中日益可见，但有关拒绝如何因请求此类服务的用户身份而异的研究甚少。本研究通过反事实人格设计探讨将拒绝作为一种社会技术性结果，其中性别身份--包括男性、女性、非二元性和跨性别人格--在分类任务和视觉输入保持不变的情况下进行设计。聚焦视觉语言模型（GPT-4V），我们检查了基于身份的语言线索如何影响二元性别分类任务中的拒绝。我们发现，即使在无害情境中，跨性别和非二元人格的拒绝率显著高于其他人格。我们的发现还为使用LLMs进行equity审计和内容分析提供了方法论意义。我们的发现强调了建模身份驱动差异的重要性，并警示不要不加批判地使用AI系统进行内容编码。该研究通过重新诠释拒绝作为一种可能不均等调节知识获取和参与的交际行为，推动了算法公平性。
关键词
引用
@article{arxiv.2406.08222,
title = {Refusal as Silence: Gendered Disparities in Vision-Language Model Responses},
author = {Sha Luo and Sang Jung Kim and Zening Duan and Kaiping Chen},
journal= {arXiv preprint arXiv:2406.08222},
year = {2025}
}