检测在线仇恨言论：使用弱监督和网络嵌入模型的方法
社会与信息网络
2020-07-28 v1 机器学习
摘要
社交媒体的普及改变了个人之间的在线互动。尽管有积极影响，它也使得反社会分子能够前所未有地在替代性社交媒体环境（例如 Gab.com）中联合起来。使用自动化技术检测此类仇恨言论可以让社交媒体平台审核其内容，并防止仇恨言论传播等恶意活动。在这项工作中，我们提出了一种弱监督深度学习模型，该模型能够 - (i) 定量地揭示仇恨用户，并且 (ii) 提出一种新颖的定性分析来揭示间接的仇恨对话。该模型在交互级别而非帖子或用户级别对内容进行评分，并允许对最频繁参与仇恨对话的用户进行特征分析。我们在 1920 万条帖子上评估了我们的模型，并表明我们的弱监督模型在识别间接仇恨交互方面优于基线模型。我们还分析了一个多层网络，该网络由 Gab 中的两种用户交互类型（引用和回复）构建，并以弱监督模型的交互分数作为边权重，来预测仇恨用户。我们利用多层网络嵌入方法为预测任务生成特征，并表明考虑来自多个网络的用户上下文有助于在 Gab 中实现更好的仇恨用户预测。与单层或同质网络嵌入模型相比，我们获得了高达 7% 的性能提升。
引用
@article{arxiv.2007.12724,
title = {Detecting Online Hate Speech: Approaches Using Weak Supervision and Network Embedding Models},
author = {Michael Ridenhour and Arunkumar Bagavathi and Elaheh Raisi and Siddharth Krishnan},
journal= {arXiv preprint arXiv:2007.12724},
year = {2020}
}