中文

IOHunter:用于揭露在线信息操作的图基础模型

社会与信息网络 2025-03-04 v2 人工智能 机器学习

摘要

社交媒体平台已成为公共话语的重要空间,充当着现代广场的角色,各种声音在此影响社会叙事。然而,其开放性也使其容易受到恶意行为者(包括国家支持的实体)的利用,这些行为者可以实施信息操作来操纵公众舆论。错误信息、虚假新闻和误导性主张的传播威胁着民主进程和社会凝聚力,因此开发及时检测不真实活动的方法以保护在线话语的完整性至关重要。在这项工作中,我们引入了一种方法论,旨在识别在不同影响活动中策划信息操作的用户,即信息操作驱动者。我们的框架名为IOHunter,利用语言模型和图神经网络的联合优势,在监督、弱监督和跨信息操作场景中提升泛化能力。我们的方法在来自六个国家的多组信息操作上实现了最先进的性能,显著超越了现有方法。这项研究标志着向开发专门用于社交媒体平台上信息操作检测任务的图基础模型迈出了一步。

关键词

引用

@article{arxiv.2412.14663,
  title  = {IOHunter: Graph Foundation Model to Uncover Online Information Operations},
  author = {Marco Minici and Luca Luceri and Francesco Fabbri and Emilio Ferrara},
  journal= {arXiv preprint arXiv:2412.14663},
  year   = {2025}
}

备注

Accepted at AAAI 2025