暴动前的挑战:预测线上反社会行为的难题与进展
计算与语言
2025-07-29 v1
摘要
社交媒体上的反社会行为(ASB),包括仇恨言论、骚扰和网络灌水,正日益影响平台安全与社会福祉。虽然先前研究主要聚焦于检测暴露后的有害内容,但预测性方法旨在预测未来有害行为的发生,如仇恨言论的传播、对话的破坏或用户的复发。尽管关注度日益增加,该领域仍显碎片化,缺乏统一的分类框架或对现有方法的清晰综述。本文系统性地综述了超过 49 项关于 ASB 预测的研究,提出了由五类核心任务类型构成的结构化分类框架:早期危害检测、危害萌发预测、危害传播预测、行为风险预测与主动监管支持。我们分析了这些任务在时间框架、预测细粒度与运营目标方面的差异。此外,我们考察了建模技术的发展脉络,从经典机器学习到预训练语言模型,并评估了数据集特征对任务可行性与泛化能力的影响。我们的综述揭示了方法论挑战,如数据稀缺、时间漂移和缺乏基准测试,同时概述了 emerging research 方向,包括多语言建模、跨平台泛化与人机协同系统。通过围绕一致框架组织该领域,本综述旨在引导未来工作 toward more robust and socially responsible ASB prediction。
引用
@article{arxiv.2507.20614,
title = {Before the Outrage: Challenges and Advances in Predicting Online Antisocial Behavior},
author = {Anaïs Ollagnier},
journal= {arXiv preprint arXiv:2507.20614},
year = {2025}
}