虚假信息网络中具有影响力行为体的自动检测
社会与信息网络
2021-01-11 v3 机器学习
应用统计
机器学习
摘要
数字通信与社交媒体的武器化以巨大规模、速度和覆盖面开展虚假信息活动，对识别和反制敌对影响行动（IOs）提出了新挑战。本文提出一个端到端框架，用于自动检测虚假信息叙事、网络及具有影响力的行为体。该框架集成了自然语言处理、机器学习、图分析以及一种新颖的网络因果推断方法，以量化个体行为体在传播 IO 叙事中的影响。我们在真实世界敌对 IO 活动上展示其能力，所用 Twitter 数据集采集于 2017 年法国总统选举期间，以及 Twitter 披露的广泛 IO 活动（2007 年 5 月至 2020 年 2 月）中已知 IO 账户，涵盖超过 50,000 个账户、17 个国家，以及包括 trolls（水军）和 bots（机器人）的不同账户类型。我们的系统以 96% 准确率、79% 召回率和 96% 的 PR 曲线下面积检测 IO 账户，描绘出显著网络社区，并发现逃脱基于活动计数和网络中心性的传统影响统计视角的高影响账户。结果经来自美国国会报告、调查新闻以及 Twitter 提供的 IO 数据集的独立已知 IO 账户来源 corroborated（佐证）。
引用
@article{arxiv.2005.10879,
title = {Automatic Detection of Influential Actors in Disinformation Networks},
author = {Steven T. Smith and Edward K. Kao and Erika D. Mackin and Danelle C. Shah and Olga Simek and Donald B. Rubin},
journal= {arXiv preprint arXiv:2005.10879},
year = {2021}
}
备注
Proc. Natl. Acad. Sciences U.S.A. Vol. 118, No. 4, e2011216118