面向英语文本的 DeBERTa 与门控广义学习系统混合架构用于网络欺凌检测
计算与语言
2025-06-23 v1 人工智能
摘要
在线通信平台的快速扩张创造了全球连接的前所未有的机遇，同时也促成了网络欺凌等有害行为的扩散。据最新研究显示，网络欺凌影响约 54.4% 的青少年。本文提出一种混合架构，将基于转换器的模型在上下文理解方面的能力与广义学习系统在模式识别方面的优势相结合，以实现高效的网络欺凌检测。该方法将一个增强型 DeBERTa 模型（集成 Squeeze-and-Excitation 块和情感分析功能）与门控广义学习系统（GBLS）分类器相集成，构建出一种协同效应的框架，在多个基准数据集上实现超越现有方法的性能。 proposed 的 ModifiedDeBERTa + GBLS 模型在四个英文数据集上取得优异成绩：在 HateXplain 上的准确率为 79.3%，在 SOSNet 上的准确率为 95.41%，在 Mendeley-I 上的准确率为 91.37%，在 Mendeley-II 上的准确率为 94.67%。除了性能提升之外，该框架还包含全面的可解释性机制，包括基于 token 级别的归因分析、LIME 基于局部解释以及置信度校准，满足自动化内容审查中的透明度要求。消融研究确认了每个架构组件的有意义贡献，而失败案例分析则揭示了在检测隐式偏见和讽刺内容方面的具体挑战，为未来在网络欺凌检测系统方面的改进提供了宝贵见解。
引用
@article{arxiv.2506.16052,
title = {A Hybrid DeBERTa and Gated Broad Learning System for Cyberbullying Detection in English Text},
author = {Devesh Kumar},
journal= {arXiv preprint arXiv:2506.16052},
year = {2025}
}