文本生成中的国籍偏见
计算与语言
2023-02-16 v3 人工智能
摘要
在分析语言模型中的国籍偏见方面，关注甚少，尤其是当国籍被高度用作提升社会自然语言处理模型性能的一个因素时。本文考察了文本生成模型 GPT-2 如何加剧关于国家居民称谓的既有社会偏见。我们使用 GPT-2 为不同国籍生成故事，并利用敏感性分析探究互联网用户数量和国家经济状况如何影响故事的情感倾向。为减少偏见通过大型语言模型 (LLM) 的传播，我们探索了对抗性触发的去偏方法。我们的结果表明，GPT-2 对互联网用户较少的国家表现出显著的偏见，而对抗性触发能有效减少这种偏见。
引用
@article{arxiv.2302.02463,
title = {Nationality Bias in Text Generation},
author = {Pranav Narayanan Venkit and Sanjana Gautam and Ruchi Panchanadikar and Ting-Hao 'Kenneth' Huang and Shomir Wilson},
journal= {arXiv preprint arXiv:2302.02463},
year = {2023}
}
备注
Paper accepted in the 17th Conference of the European Chapter of the Association for Computational Linguistics (EACL2023)