使用预训练深度学习模型测量4chan上的网络仇恨
计算与语言
2025-04-02 v1 计算机与社会
摘要
网络仇恨言论会对个人和群体造成有害影响,特别是对于像4chan这样没有进行 moderation 的平台,因为用户可以发布匿名内容。本文聚焦于使用基于Transformer的预训练深度学习模型(如RoBERTa和Detoxify)分析和测量4chan政治不正确板(/pol/)上的网络仇恨。通过利用这些先进模型,我们提供了仇恨言论动态和网络仇恨非 moderation 平台范围的深入分析。该研究通过多类别仇恨言论分类(种族主义、性别歧视、宗教等),同时也纳入有毒内容(如身份攻击和威胁)的分类,并进一步进行主题建模分析。结果显示,该数据集中11.20%被识别为包含不同类别的仇恨。这些评估表明,网络仇恨以各种形式呈现,确认了在野外检测中仇恨检测的复杂且波动的本质。
引用
@article{arxiv.2504.00045,
title = {Measuring Online Hate on 4chan using Pre-trained Deep Learning Models},
author = {Adrian Bermudez-Villalva and Maryam Mehrnezhad and Ehsan Toreini},
journal= {arXiv preprint arXiv:2504.00045},
year = {2025}
}
备注
IEEE Transactions on Technology and Society, 11 pages