基于情感感知共享编码器的仇恨言论与攻击性语言检测
计算与语言
2023-02-20 v1 信息论
机器学习
社会与信息网络
math.IT
摘要
社交媒体平台的兴起从根本上改变了人们的交流方式，这些发展的结果之一是网络上滥用内容的使用增加。因此，自动检测此类内容对于屏蔽不当信息、降低社交媒体平台上的毒性和暴力至关重要。现有关于仇恨言论和攻击性语言检测的工作基于预训练Transformer模型取得了有前景的结果，然而它们仅考虑了通过标注数据集生成的滥用内容特征分析。本文提出一种多任务联合学习方法，结合从其他语料库提取的外部情感特征，以应对标注数据集的不平衡与稀缺问题。我们使用两个知名的基于Transformer的模型BERT和mBERT进行分析，其中后者用于解决多语言场景下的滥用内容检测。我们的模型通过Transformer共享编码器共享表示，联合学习滥用内容检测与情感特征。该方法提高了数据效率，通过共享表示减少过拟合，并利用辅助信息实现快速学习。我们的结果表明，情感知识有助于更可靠地跨数据集识别仇恨言论和攻击性语言。我们的仇恨言论检测多任务模型相较基线模型有3%的性能提升，但多任务模型在攻击性语言检测任务上的性能提升不显著。更有趣的是，在两项任务中，多任务模型相比单任务场景表现出更少的假阳性错误。
引用
@article{arxiv.2302.08777,
title = {Hate Speech and Offensive Language Detection using an Emotion-aware Shared Encoder},
author = {Khouloud Mnassri and Praboda Rajapaksha and Reza Farahbakhsh and Noel Crespi},
journal= {arXiv preprint arXiv:2302.08777},
year = {2023}
}