布鲁图斯，你也是！社交媒体中诱捕仇恨用户：挑战、方案与洞察
社会与信息网络
2021-08-03 v1 计算与语言
机器学习
摘要
仇恨言论被视为困扰在线社交媒体的关键问题之一。当前关于仇恨言论检测的文献主要利用文本内容来发现仇恨帖文并进而识别仇恨用户。然而，该方法忽视了用户间的社会连接。本文中，我们对该问题空间进行详尽探索，并研究了一系列从纯文本到基于图、最终到利用文本与图特征的图神经网络（GNN）半监督技术模型。我们在两个数据集上进行了穷尽实验——监管宽松的 Gab 与监管严格的 Twitter。总体而言，AGNN 模型仅使用 5% 的标注样本即在 Gab 数据集上取得 0.791 的宏 F1 分数，在 Twitter 数据集上取得 0.780 的宏 F1 分数，显著优于包括全监督在内的所有其他模型。我们对表现最佳的文本与图模型进行了详细错误分析，观察到仇恨用户具有独特的网络邻域特征，而 AGNN 模型因关注这些特征而受益。正如我们所观察到的，该性质还使模型能在零样本设定下跨平台良好泛化。最后，我们利用表现最佳的 GNN 模型分析 Gab 中仇恨用户及其目标随时间的演化。
引用
@article{arxiv.2108.00524,
title = {You too Brutus! Trapping Hateful Users in Social Media: Challenges, Solutions & Insights},
author = {Mithun Das and Punyajoy Saha and Ritam Dutt and Pawan Goyal and Animesh Mukherjee and Binny Mathew},
journal= {arXiv preprint arXiv:2108.00524},
year = {2021}
}
备注
Extended Version of this paper has been accepted at ACM HT'21. Link to the Code: https://github.com/hate-alert/Hateful-users-detection