面向中文有害表情包的全面检测
计算与语言
2024-10-04 v1 人工智能
摘要
本文已在 NeurIPS 2024 D & B Track 正式接受。中文有害表情包在中文互联网上快速传播，而针对中文有害表情包检测的研究严落后，主要由于缺乏可靠的数据集和有效的检测器。为此，我们聚焦于中文有害表情包的全面检测。我们构建了 ToxiCN MM，即首个中文有害表情包数据集，包含 12,000 个样本，涵盖多种表情包类型的细粒度标注。此外，我们提出了基线检测器——多模态知识增强 (Multimodal Knowledge Enhancement, MKE)，该方法融合了由 LLM 生成的表情包内容的上下文信息，以增强对中文表情包的理解。在评估阶段，我们在多个基线模型（包括 LLMs 和 MKE）上开展了大量定量实验和定性分析。实验结果表明，现有模型对检测中文有害表情包存在挑战，而 MKE 的有效性得到了验证。本论文的资源已公开于 https://github.com/DUT-lujunyu/ToxiCN_MM。
引用
@article{arxiv.2410.02378,
title = {Towards Comprehensive Detection of Chinese Harmful Memes},
author = {Junyu Lu and Bo Xu and Xiaokun Zhang and Hongbo Wang and Haohao Zhu and Dongyu Zhang and Liang Yang and Hongfei Lin},
journal= {arXiv preprint arXiv:2410.02378},
year = {2024}
}