仇恨言论检测的分层情感分析框架：实现二分类与多分类策略
计算与语言
2024-11-12 v1 人工智能
摘要
在社交媒体上自动检测仇恨言论的一个重大挑战是区分仇恨言论与常规语言和冒犯性语言。这些内容代表了网络过滤器试图移除的重要内容类别。只有自动化方法才能处理如此大量的日常数据。为了解决这一问题，自然语言处理社区正在研究不同的仇恨言论检测方法。此外，先前的方法（如卷积神经网络、多通道 BERT 模型和词汇检测方法）在未仔细处理情感分析和情绪分类等其他相关任务的情况下，始终未能实现高精度。它们仍然倾向于仅因为某些特定词汇常与仇恨言论一起出现就将包含这些词汇的所有消息归类为仇恨言论。在本研究中，我们提出了一个基于深度学习和机器学习的仇恨言论文本分类系统模型。本文提出了一种新的多任务模型，集成了共享的情感表示，用于检测英语中的仇恨言论。我们使用的基于 Hugging Face 的基于 Transformer 的模型和情感分析帮助我们避免了误报。结论。我们得出结论，利用情感分析和基于 Transformer 的训练模型可以显著提高在多个数据集上的仇恨言论检测效果。
引用
@article{arxiv.2411.05819,
title = {Hierarchical Sentiment Analysis Framework for Hate Speech Detection: Implementing Binary and Multiclass Classification Strategy},
author = {Faria Naznin and Md Touhidur Rahman and Shahran Rahman Alve},
journal= {arXiv preprint arXiv:2411.05819},
year = {2024}
}
备注
20 Pages