沿种族、性别与交叉轴分析仇恨言论数据
计算与语言
2022-05-19 v2 人工智能
机器学习
摘要
为应对日益严重的仇恨言论现象,人们已在数据整理与分析方面做出努力。在偏差分析方面,先前工作主要聚焦于种族。在我们的工作中,我们进一步沿种族、性别与交叉轴调查仇恨言论数据集中的偏差。我们识别出针对非裔美国人英语(AAE)、男性以及 AAE+男性推文的强烈偏差,这些推文被标注为比其他人口群体明显更具仇恨性与攻击性。我们提供证据表明基于 BERT 的模型传播了此偏差,并表明针对这些受保护属性平衡训练数据可带来关于性别更公平的模型,但关于种族则不然。
引用
@article{arxiv.2205.06621,
title = {Analyzing Hate Speech Data along Racial, Gender and Intersectional Axes},
author = {Antonis Maronikolakis and Philip Baader and Hinrich Schütze},
journal= {arXiv preprint arXiv:2205.06621},
year = {2022}
}
备注
Accepted at "4th Workshop on Gender Bias in Natural Language Processing", NAACL 2022