谁的意见重要?用于识别滥用语言检测中仇恨言论受害者意见的角度感知模型
计算与语言
2021-07-01 v1 人工智能
摘要
社交媒体平台为用户提供了表达自由以及交换信息和表达多元意见的媒介。不幸的是,这也导致了以歧视人群和针对最弱势社群(如移民、LGBT、穆斯林、犹太人和女性)为目的的滥用内容增长。由于滥用语言本质上具有主观性,在仇恨言论(HS)等滥用内容标注中可能涉及高度两极化的话题或事件。因此,我们需要新颖的方法来建模来自不同个人与人口背景人群的冲突视角与意见。本文在相似特征(种族、社会背景、文化等)会影响标注者对某一现象视角的假设下,对不同社群的极化意见进行了深入研究。我们认为,依靠此信息可将标注者划分为具有相似视角的群体。我们可以为每个群体创建独立的黄金标准,以训练最先进的深度学习模型。我们可采用集成方法将来自不同群体的角度感知分类器组合为一个包容性模型。我们还提出了一种新资源,即一个多视角英语语言数据集,按照刻画网络滥用相关的不同子类别进行标注:仇恨言论、攻击性、冒犯性和刻板印象。通过在该新资源上训练最先进的深度学习模型,我们展示了我们的方法如何提升最先进监督分类器的预测性能。
引用
@article{arxiv.2106.15896,
title = {Whose Opinions Matter? Perspective-aware Models to Identify Opinions of Hate Speech Victims in Abusive Language Detection},
author = {Sohail Akhtar and Valerio Basile and Viviana Patti},
journal= {arXiv preprint arXiv:2106.15896},
year = {2021}
}