语言与文本到图像模型中的宗教偏见景观：分析、检测与去偏策略
计算与语言
2025-11-06 v1
摘要
注意：本文包含与宗教偏见相关的可能冒犯内容示例，仅用于学术目的。语言模型的广泛采用凸显了对其固有偏见进行关键性检视的必要性，尤其是涉及宗教问题。本研究系统性地调查了语言模型和文本到图像生成模型中的宗教偏见，分析了开源和闭源系统。我们构建了约 400 个独特的、自然发生的提示，用于探测语言模型在包括掩码填充、提示完成和图像生成等多种任务中的宗教偏见。我们的实验揭示了与特定宗教不成比例地关联的潜在刻板印象和偏见的令人关注的实例。此外，我们探讨了跨域偏见，考察宗教偏见如何与性别、年龄、国籍等人口因素相交叉作用。这项研究进一步评估了通过针对性去偏技术的有效性，采用旨在缓解识别偏见的纠正提示。我们的发现表明，语言模型在文本和图像生成任务中继续表现出显著偏见，强调迫切需要开发更公平的语言模型以实现全球可接受性。
引用
@article{arxiv.2501.08441,
title = {Religious Bias Landscape in Language and Text-to-Image Models: Analysis, Detection, and Debiasing Strategies},
author = {Ajwad Abrar and Nafisa Tabassum Oeshy and Mohsinul Kabir and Sophia Ananiadou},
journal= {arXiv preprint arXiv:2501.08441},
year = {2025}
}