通过对比文本偏差实现社交媒体情境软性监控
计算与语言
2024-07-31 v1 密码学与安全
摘要
自动化软性监控系统无法确定帖子是支持还是反驳虚假声明，从而导致大量情境性误报。这限制了其效果，例如通过对健康专家的帖子添加警告，或使用模糊警告而非精细事实核查，导致用户对警告产生麻木反应。本文提出将立场检测整合到现有的自动化软性监控管道中，以消除情境性误报并为应接收到警告的社交媒体内容提供更精确的建议。我们开发了称为 Contrastive Textual Deviation(CTD) 的文本偏差任务，证明其在软性监控中优于现有立场检测方法。随后，我们将 CTD 集成到自动化软性监控的先进系统 Lambretta 中，表明我们的 метод 能将情境性误报从 20% 降低至 2.1%，为在社交媒体上部署可靠的自动化软性监控工具提供了另一重要构建模块。
引用
@article{arxiv.2407.20910,
title = {Enabling Contextual Soft Moderation on Social Media through Contrastive Textual Deviation},
author = {Pujan Paudel and Mohammad Hammas Saeed and Rebecca Auger and Chris Wells and Gianluca Stringhini},
journal= {arXiv preprint arXiv:2407.20910},
year = {2024}
}