往 PLACES：针对全球南方地区的文本到图像安全参与式局部红队测试
计算机与社会
2026-05-20 v1 人工智能
人机交互
摘要
尽管文本到图像 (T2I) 模型在全球范围内部署，但其安全框架主要以西方中心为默认，为世界其余地区创造了显著的漏洞。为拥抱文化多样性并引入 T2I 安全领域中历史上缺乏代表性的视角，我们在全球南方进行本地化社区中心红队测试研究。我们的双重方法优先考虑本地化和参与，通过关注这些地区的次要城市，开展社区参与和培训工作坊以规范本地规范。结果我们呈现了 PLACES 数据集，由在加纳、尼日利亚以及印度两个地区（卡尔纳克和旁遮普）与大学合作收集的超过 26,000 个 T2I 模型失效示例。对收集的提示进行分析，揭示了与现有地理中性众包红队测试数据相比，社会文化和语言属性呈现广泛多样性。我们观察到由本地文化和语言细微差别所启发的独特对抗模式，并在特定主题（如印度的宗教）附近发现区域内的 distinct 集群。此外，我们通过识别显示规范性不和谐的新型伤害（例如违反宗教规范、忽视当地习俗以及阴险符号），揭示了现有安全框架中的结构性上下文缺口。本工作论证，扩大 T2I 安全性需要超越单纯规模，Incorporate deeply localized, participatory methodologies for data collection and contextualization。
引用
@article{arxiv.2605.19190,
title = {Going PLACES: Participatory Localized Red Teaming for Text-to-Image Safety in the Global South},
author = {Charvi Rastogi and Mukul Bhutani and Minsuk Kahng and Shamsuddeen Hassan Muhammad and Evgeniia Razumovskaia and Priyanka Suresh and Ibrahim Said Ahmad and Charu Kalia and Yaaseen Mahomed and Madhurima Maji and Minjae Lee and Alicia Parrish and Jessica Quaye and Vijay Janapa Reddi and Aishwarya Verma and Lora Aroyo},
journal= {arXiv preprint arXiv:2605.19190},
year = {2026}
}
备注
Published at ACM Conference on FAccT 2026