面向私信中网络骚扰的情境感知检测与以受害者为中心的响应生成
社会与信息网络
2026-05-20 v2 计算与语言
计算机与社会
摘要
网络骚扰是广泛存在的社交与公共卫生问题，但大多数计算方法针对的是公开可见的社交媒体内容，而非私人消息环境。私人对话呈现独特挑战，因为有害交互往往通过情境依赖、多轮交互展开，而受害者在骚扰发生时可能缺乏及时支持。本研究调查如何利用大语言模型（LLM）支持私信环境下网络骚扰的检测与响应。我们获取了 80,053 条来自 26 名 12-18 岁青少年（包括具有自杀风险因素的青少年）的 Instagram 私信数据，首先构建了私人对话中网络骚扰的人类标注数据集，并开发了情境感知的级联 LLM 分类管道。该管道优于主要基于公开社交媒体数据训练的毒性分类器。随后，我们开发了以受害者为中心的响应框架，生成情境敏感且心理学依据的 AI 响应。人类评估者认为，AI 生成的响应在实用性上显著优于原始参与者响应（95% 置信区间：0.767--0.815，p < .001），尤其在情感支持和降沫方面表现更佳。我们的发现凸显了情境感知和以受害者为中心的 AI 系统在私信环境中提供即时支持的潜力。
引用
@article{arxiv.2512.14700,
title = {Context-Aware Detection and Victim-Centered Response Generation for Online Harassment in Private Messaging},
author = {Pinxian Lu and Nimra Ishfaq and Emma Win and Morgan Rose and Sierra R Strickland and Candice L Biernesser and Jamie Zelazny and Munmun De Choudhury},
journal= {arXiv preprint arXiv:2512.14700},
year = {2026}
}
备注
16 pages, 2 figures