网络骚扰的武器：通过社交应用制造威胁与轮廓化用户
计算机与社会
2025-11-18 v1
摘要
将社交应用视为社会技术系统，清楚地表明它们不仅仅是技术产品，而是中介人类互动，可能无意中促成类似网络骚扰的有害行为。随着更多用户通过社交应用进行交互，骚扰实例也随之增加。我们观察到，应用评论常描述骚扰行为。因此，我们构建了一个包含300多万条评论和1800个应用的数据集。我们发现，两种骚扰形式非常普遍：恐吓（Menacing）和轮廓化（Profiling）。我们构建了一个用于识别指示骚扰评论的计算模型，实现了对恐吓和轮廓化评论分别达到90%和85%的高召回率。我们进一步分析数据以更好地理解骚扰的格局。意外地，骚扰者最常使用女性身份。负面评论与中性评论的区别在于，更常见愤怒、厌恶和恐惧情绪。应用我们的模型，我们识别出1395个可能促进骚扰的应用，并通知这48个用户报告骚扰最高的应用开发者。
引用
@article{arxiv.2511.11718,
title = {Weapons of Online Harassment: Menacing and Profiling Users via Social Apps},
author = {Sanjana Cheerla and Vaibhav Garg and Saikath Bhattacharya and Munindar P. Singh},
journal= {arXiv preprint arXiv:2511.11718},
year = {2025}
}
备注
This article has been accepted for publication in IEEE Computer as a Research Feature. 13 pages, 3 figures, 1 table, 4 examples