社交网络上的攻击性语言检测：一种基于图注意力网络的端到端检测方法
社会与信息网络
2022-03-07 v1 人工智能
摘要
社交网络上攻击性语言的泛滥已对社会造成诸如网络虐待行为等不良影响。检测攻击性语言并遏制其传播十分紧迫。已有研究表明，具备社区结构特征的方法有效提升了攻击性语言检测性能。然而，现有模型独立处理社区结构，严重影响了检测模型的效果。本文提出一种基于社区结构与文本特征的端到端攻击性语言检测方法（CT-OLD）。具体而言，社区结构特征由图注意力网络层直接捕获，文本嵌入取自 BERT 的最后隐藏层。采用注意力机制与位置编码融合这些特征。同时，我们在社区结构中加入用户观点以表征用户特征，用户观点由用户历史行为信息表示，优于由文本信息表示。此外，流行数据集中用户与推文分布不均衡，限制了模型泛化能力；为此我们构建并发布了一个具有合理用户分布的数据集。我们的方法以 89.94% 的 F1 分数优于基线。结果表明，端到端模型有效学习了社区结构与文本的潜在信息，且用户历史行为信息更适于用户观点表示。
引用
@article{arxiv.2203.02123,
title = {Detecting Offensive Language on Social Networks: An End-to-end Detection Method based on Graph Attention Networks},
author = {Zhenxiong Miao and Xingshu Chen and Haizhou Wang and Rui Tang and Zhou Yang and Wenyi Tang},
journal= {arXiv preprint arXiv:2203.02123},
year = {2022}
}