防患未然：社交媒体上仇恨言论的检测、扩散与缓解
社会与信息网络
2022-01-05 v1 机器学习
摘要
随着社交媒体使用的普及，仇恨言论已成为一场重大危机。仇恨内容可迅速传播，并营造出痛苦和敌意的环境。此外，何种内容可被视为仇恨言论是依语境而定的，且随时间变化。尽管在线仇恨言论削弱了已被边缘化群体自由参与讨论的能力，但离线仇恨言论会导致针对个人和社区的仇恨犯罪与暴力。仇恨言论的多面性及其现实影响已引起数据挖掘和机器学习界的兴趣。尽管我们尽力而为，仇恨言论对研究者和从业者仍是一个难以根除的问题。本文提出了阻碍构建自动化仇恨缓解方法的方法论挑战。这些挑战启发了我们在对抗网络上仇恨内容这一更广泛领域的工作。我们讨论了一系列所提出的限制社交媒体上仇恨言论传播的解决方案。
引用
@article{arxiv.2201.00961,
title = {Nipping in the Bud: Detection, Diffusion and Mitigation of Hate Speech on Social Media},
author = {Tanmoy Chakraborty and Sarah Masud},
journal= {arXiv preprint arXiv:2201.00961},
year = {2022}
}
备注
Submitted for publication in ACM SIGWEB Newsletter