StopHC：面向社交媒体平台的有害内容检测与缓解架构
社会与信息网络
2024-11-12 v1 计算与语言
摘要
社交媒体用户的心理健康正越来越多地受到有害、仇恨和冒犯性内容的威胁。在本文中，我们提出了\textsc{StopHC}，一种面向社交媒体平台的有害内容检测与缓解架构。我们旨在通过\textsc{StopHC}创建更安全的在线环境。我们的方案包含两个模块：一个利用深度神经网络架构进行有害内容检测，另一个使用网络免疫算法来阻断毒性节点并阻止有害内容的传播。我们通过在两个真实数据集上进行的实验证明了方案的有效性。
引用
@article{arxiv.2411.06138,
title = {StopHC: A Harmful Content Detection and Mitigation Architecture for Social Media Platforms},
author = {Ciprian-Octavian Truică and Ana-Teodora Constantinescu and Elena-Simona Apostol},
journal= {arXiv preprint arXiv:2411.06138},
year = {2024}
}