CRAB：用于社交媒体仇恨言论识别的类表示注意力BERT模型
计算与语言
2020-10-27 v1 人工智能
机器学习
摘要
近年来，社交媒体平台充斥着大量仇恨言论和不良内容。对高效自动仇恨言论检测模型的迫切需求吸引了企业与研究人员的显著投入。社交媒体帖子通常较短，即便单个词元也可能彻底改变其语义。因此，该任务关键在于学习上下文感知的输入表示，并将输入嵌入与类表示之间的相关性分数作为附加信号。为满足这些需求，本文提出CRAB（Class Representation Attentive BERT，类表示注意力BERT），一种用于检测社交媒体中仇恨言论的神经模型。该模型利用两种语义表示：(i) 可训练的逐词元与逐句类表示，以及 (ii) 来自最先进BERT编码器的上下文化输入嵌入。为考察CRAB的有效性，我们在Twitter数据上训练模型，并与强基线对比。结果表明，CRAB相较最先进基线取得了1.89%的相对Macro平均F1提升。本研究结果为未来社交媒体自动滥用行为检测研究提供了契机。
引用
@article{arxiv.2010.13028,
title = {CRAB: Class Representation Attentive BERT for Hate Speech Identification in Social Media},
author = {Sayyed M. Zahiri and Ali Ahmadvand},
journal= {arXiv preprint arXiv:2010.13028},
year = {2020}
}