用于滥用内容检测的基于字符的神经网络组合模型
计算与语言
2018-09-05 v1
摘要
近年来社交媒体的出现助长了某些极不良现象，如互联网上攻击性语言、仇恨言论、性别歧视言论等的泛滥。有鉴于此，已有若干自动化检测与审核此类滥用内容的努力。然而，用户为规避检测而故意混淆单词，对这些努力的有效性构成了严峻挑战。当前基于循环神经网络（RNN）的滥用语言检测最优方法并未明确解决该问题，而是对所有未登录词采用通用的OOV（out of vocabulary，词表外）嵌入。然而，对所有未登录词使用单一嵌入，会丧失区分被混淆词与非混淆词或罕见词的能力。本文通过设计一种能为未登录词组合嵌入的模型来解决此问题。我们通过实验证明，我们的方法在来自两个不同领域（即Twitter与Wikipedia讨论页）的数据集上，显著推进了滥用检测的最优水平。
引用
@article{arxiv.1809.00378,
title = {Neural Character-based Composition Models for Abuse Detection},
author = {Pushkar Mishra and Helen Yannakoudakis and Ekaterina Shutova},
journal= {arXiv preprint arXiv:1809.00378},
year = {2018}
}
备注
In Proceedings of the EMNLP Workshop on Abusive Language Online 2018