用于检测社交网络中对抗性网络暴力和仇恨言论的深度学习方法
机器学习
2024-06-27 v1 计算与语言
计算机与社会
摘要
网络暴力是一个与技术密切相关的关注点，可以通过技术手段找到解决办法。尽管其流行，技术也提供了缓解网络暴力的解决方案。为了解决日益增长的担忧，即网络暴力对个人线上体验的负面影响，各种在线平台和研究人员正在积极采取措施来提高数字环境的安全性。尽管研究人员不断构建检测模型来抵消或最小化网络暴力，但恶意行为者正在部署对抗技术来规避这些检测方法。本文聚焦于检测来自社交网络站点文本数据中对抗性攻击内容的网络暴力，特别强调仇恨言论。本文利用基于深度学习的方法配合纠正算法，取得了显著结果。以固定100个 epoch 的 LSTM 模型表现突出，准确率、精确率、召回率、F1 分数和 AUC-ROC 分别达到了87.57%、88.73%、87.57%、88.15%和91%。此外，LSTM 模型的性能超过了以往研究。
引用
@article{arxiv.2406.17793,
title = {Deep Learning Approaches for Detecting Adversarial Cyberbullying and Hate Speech in Social Networks},
author = {Sylvia Worlali Azumah and Nelly Elsayed and Zag ElSayed and Murat Ozer and Amanda La Guardia},
journal= {arXiv preprint arXiv:2406.17793},
year = {2024}
}
备注
10 pages, 8 figures, 3 tables, under reviewing