检测网络恶意语言的高效混合深度学习方法
计算与语言
2026-03-12 v1
摘要
数字时代扩展了社交媒体和线上论坛，使近 45% 的全球人口能够自由表达。然而，这也推动了网络骚扰、网络欺凌以及如仇恨言论和有害评论等有害行为在社交网络、消息应用和游戏社区中的扩散。研究表明，65% 的家长注意到网络恶意行为，一半的青少年在移动游戏中经历欺凌。大量恶意内容每日在表层 web 及深网论坛中生成和分享。恶意评论的创作者常会运用特定词语或编码短语来规避检测并隐藏其意图。为应对这些挑战，我们提出一种混合深度学习模型，将 BERT、CNN 和 LSTM 架构集成，采用 ReLU 激活函数，用于检测来自多个在线平台（包括 YouTube 评论、线上论坛讨论和深网帖子）的恶意语言。该模型在包含 77,620 条恶意文本和 272,214 条非恶意文本（比例 1:3.5）的多样且不平衡数据集上表现突出，准确率、召回率、准确度、F1 分数和 AUC 等评估指标约为 99%。该方法有效捕捉文本中的语义、上下文和序列模式，使其能够在高度不平衡的数据集上实现稳健的恶意内容检测，这正是现实场景中常见的情况。
引用
@article{arxiv.2603.09984,
title = {An Efficient Hybrid Deep Learning Approach for Detecting Online Abusive Language},
author = {Vuong M. Ngo and Cach N. Dang and Kien V. Nguyen and Mark Roantree},
journal= {arXiv preprint arXiv:2603.09984},
year = {2026}
}
备注
10 pages, 7 figures