带有态度的标注者：标注者信念与身份如何偏置毒性语言检测

语言的感知毒性可因个人身份与信念而异，但在收集毒性语言数据集时这种差异常被忽视，导致数据集与模型偏差。我们试图理解毒性标注中偏差的谁、为何与是什么。在两项具有人口统计与政治多样性的参与者在线研究中，我们借鉴关于仇恨言论、言论自由、种族主义信念、政治倾向等的社会心理学研究，调查标注者身份（谁）与信念（为何）的影响。我们通过考虑具有三种特征的帖子——反黑语言、非裔美国人英语（AAE）方言与粗俗语言——来厘清被标注为毒性的内容。我们的结果显示标注者身份与信念与其毒性评分间存在强关联。值得注意的是，更保守的标注者以及在我们种族主义信念量表中得分高者更不可能将反黑语言评为毒性，却更可能将AAE评为毒性。我们还呈现了一个案例研究，说明一种流行毒性检测系统的评分如何本质上仅反映特定信念与视角。我们的发现呼吁将毒性标签置于社会变量中语境化，这对毒性语言标注与检测具有重大意义。