促进中文有毒语言的细粒度检测：分层分类体系、资源与基准
计算与语言
2023-05-09 v1 人工智能
摘要
有毒网络帖子的广泛传播对社会造成日益严重的危害。然而，针对中文有毒语言检测的研究明显滞后。现有数据集缺乏对有毒类型与表达方式的细粒度标注，且忽略了具有间接毒性的样本。此外，引入词汇知识以检测帖子毒性至关重要，这一直是研究者的难题。本文致力于促进中文有毒语言的细粒度检测。首先，我们构建了 Monitor Toxic Frame，一种用于分析有毒类型与表达方式的分层分类体系。随后，提出了一个包含直接与间接有毒样本的细粒度数据集 ToxiCN。我们还构建了含有隐式脏话的辱骂词典，并提出 Toxic Knowledge Enhancement (TKE) 作为基准，将词汇特征融入有毒语言检测。在实验阶段，我们验证了 TKE 的有效性。之后，对所得发现进行了系统的定量与定性分析。
引用
@article{arxiv.2305.04446,
title = {Facilitating Fine-grained Detection of Chinese Toxic Language: Hierarchical Taxonomy, Resources, and Benchmarks},
author = {Junyu Lu and Bo Xu and Xiaokun Zhang and Changrong Min and Liang Yang and Hongfei Lin},
journal= {arXiv preprint arXiv:2305.04446},
year = {2023}
}
备注
13 pages, 4 figures. The paper has been accepted in ACL 2023