检测Facebook上的恶意内容

在线社交网络(OSNs)在事件发生时用户活动会上升。恶意实体利用用户参与度这一激增来传播损害系统声誉、降低用户体验的恶意内容。它还为恶意实体从广告、点击等产生收入。全球最大社交网络Facebook也不例外，近期据报道面临大量通过诈骗和其他类型恶意内容造成的滥用，尤其在制造新闻的事件期间。近期研究报道垃圾邮件发送者仅通过在Facebook发布恶意链接就赚取2亿美元。本文中，我们刻画了17个事件期间发布在Facebook上的恶意内容，并发现Facebook现有对抗恶意内容的努力无法阻止所有恶意内容进入社交图。我们的发现揭示恶意实体倾向于通过web和第三方应用发布内容，而合法实体偏好移动平台发布内容。此外，我们发现由Facebook页面生成的恶意内容数量可观。通过观测，我们提出基于实体档案、文本内容、元数据和URL特征的广泛特征集，以实时且在零小时识别Facebook上的恶意内容。该特征集用于训练多个机器学习模型，达到了86.9%的准确率。意图是捕获当前规避Facebook检测技术的恶意内容。我们的机器学习模型能检测的恶意帖子数量比现有恶意内容检测技术多一倍以上。最后，我们构建了以基于REST的API和浏览器插件为形式的真实世界解决方案，以实时识别恶意Facebook帖子。