通过机器学习预测性对健康相关在线讨论中的毒性
计算与语言
2025-05-26 v1 机器学习
社会与信息网络
摘要
在健康相关话题中，用户在在线讨论中的毒性行为常常成为社会冲突源或推动危险、不科学行为的来源；常见的应对方式包括不同形式的检测、标记和/或移除现有有害评论，这些方式对平台和用户往往适得其反。本文提出一种替代性方法，即预测性地对抗用户毒性，预判用户在健康相关在线讨论中可能出现毒性互动。我们应用了基于协同过滤的机器学习方法，对 Reddit 中与 COVID 相关话题之间任意用户与子社区之间的毒性进行预测，在相关指标上实现了超过 80% 的预测性能，使我们能够防止冲突用户和子社区的配对。
引用
@article{arxiv.2505.17068,
title = {Predictively Combatting Toxicity in Health-related Online Discussions through Machine Learning},
author = {Jorge Paz-Ruza and Amparo Alonso-Betanzos and Bertha Guijarro-Berdiñas and Carlos Eiras-Franco},
journal= {arXiv preprint arXiv:2505.17068},
year = {2025}
}
备注
IJCNN 2025