通过社区参与构建社会文化包容的刻板印象资源
计算与语言
2023-07-21 v1 人工智能
人机交互
摘要
随着生成式语言模型在全球环境中的快速开发与部署，我们迫切需要在危害度量上实现扩展，不仅在所涵盖危害的数量和类型上，还包括其对本地的文化语境（包括边缘化身份及其所经历的社会偏见）的考量程度。当前的评估范式在这方面能力有限，因为它们不能代表多样的、本地化却具全球性的社会文化视角。为防危害度量出现严重低估或偏斜，必须通过纳入来自全球不同文化和社会的人们及其经验，来增强和校准我们的评估资源。在这项工作中，我们展示了在印度社会语境中针对刻板印象危害的社会文化感知扩展。我们设计了一项社区参与的努力，以构建一个包含印度特有的差异轴刻板印象的资源。所得资源将印度语境下已知的刻板印象数量增加了超过 1000 条，涵盖许多独特身份。我们还展示了此类扩展资源用于语言模型评估的效用与有效性。内容警告：本文包含可能令人反感的刻板印象示例。
引用
@article{arxiv.2307.10514,
title = {Building Socio-culturally Inclusive Stereotype Resources with Community Engagement},
author = {Sunipa Dev and Jaya Goyal and Dinesh Tewari and Shachi Dave and Vinodkumar Prabhakaran},
journal= {arXiv preprint arXiv:2307.10514},
year = {2023}
}