社交媒体跨平台暴力检测：数据集与分析
计算与语言
2025-06-05 v1 机器学习
摘要
暴力威胁仍然是社交媒体平台上的一个重大问题。有用的高质量数据有助于研究和理解恶意内容，包括暴力。在本文中，我们引入了一个跨平台数据集，包含 30,000 个经过人工标注的帖子，涵盖暴力威胁和暴力子类型，包括政治暴力和性暴力。为了评估该数据集中的信号，我们使用一个现有的 YouTube 暴力评论数据集进行了机器学习分析。我们发现，尽管数据来自不同平台且使用了不同的编码标准，但通过在一个数据集上训练并在另一个数据集上测试，以及在合并数据集条件下，我们都取得了高分类准确率。这些结果对内容分类策略以及理解社交媒体上的暴力内容具有启示意义。
引用
@article{arxiv.2506.03312,
title = {Cross-Platform Violence Detection on Social Media: A Dataset and Analysis},
author = {Celia Chen and Scotty Beland and Ingo Burghardt and Jill Byczek and William J. Conway and Eric Cotugno and Sadaf Davre and Megan Fletcher and Rajesh Kumar Gnanasekaran and Kristin Hamilton and Marilyn Harbert and Jordan Heustis and Tanaya Jha and Emily Klein and Hayden Kramer and Alex Leitch and Jessica Perkins and Casi Sherman and Celia Sterrn and Logan Stevens and Rebecca Zarrella and Jennifer Golbeck},
journal= {arXiv preprint arXiv:2506.03312},
year = {2025}
}
备注
In Proceedings of the 17th ACM Web Science Conference (WebSci '25). 9 pages