为何如此煽动性？社交媒体煽动性用户自动检测中的可解释性
社会与信息网络
2022-08-23 v1
摘要
在 Facebook 和 Twitter 等社交网络服务（SNS）上传播的仇恨言论和错误信息，已在全球多国助长了种族与政治暴力。我们认为，针对全球南方（Global South）背景下的这一问题研究十分有限，并提出了一种应对方法。先前工作表明，利用用户级交互特征构建的机器学习模型可有效识别传播煽动性内容的用户。尽管该技术在缺乏真实数据与处理能力等语言资源的低资源语言环境中颇具益处，但这些交互特征如何贡献于模型性能仍不清楚。本工作中，我们调查并展示了传播煽动性内容的用户与其他用户之间交互特征的显著差异，应用可解释性工具来理解我们所训练的模型。我们发现，具有较高交互显著性的特征（如账号年龄与活动计数）比较低交互显著性的特征（如昵称长度及用户简介中是否含位置信息）展现出更高的解释力。随着全球南方社交媒体使用的增长超过审核努力，我们的工作拓展了旨在理解低资源、高风险情境中煽动性内容本质的研究方向。
引用
@article{arxiv.2208.09941,
title = {Why So Inflammatory? Explainability in Automatic Detection of Inflammatory Social Media Users},
author = {Cuong Nguyen and Daniel Nkemelu and Ankit Mehta and Michael Best},
journal= {arXiv preprint arXiv:2208.09941},
year = {2022}
}
备注
6 pages. Spotlight paper at PML4DC 2022 workshop, co-located with ICLR 2022