面向语言敏感的基于智能体的错误信息传播建模的在线社交网络数字克隆

我们开发了一个融合基于智能体的建模和自然语言处理技术的仿真框架，用于研究在线社交网络中的错误信息传播。尽管该领域存在许多其他基于智能体的仿真，但对其保真度以及对现有网络的泛化能力的质疑，在一定程度上阻碍了它们提供可操作见解的能力。为了部分解决这些担忧，我们通过下载超过一万名用户的社交媒体历史记录，创建了一个已知错误信息分享网络的“数字克隆”。我们解析这些历史记录，以提取网络结构并模拟信息在其成员间分享和传播的细微方式。与该领域的许多其他基于智能体的方法不同，我们框架中用户间的信息分享对讨论话题、用户偏好和在线社区动态敏感。为了评估我们方法的保真度，我们向克隆网络注入一组在基础网络中记录的帖子，并比较两者间的传播动态，观察到在多种指标上孪生网络之间具有合理的一致性。最后，我们探索了克隆网络如何作为一个灵活、低成本的测试平台，用于错误信息对策评估和红队分析。我们希望这里探索的工具能增强该领域的现有努力，并为错误信息对策评估开启新的机会。随着由生成式人工智能驱动的错误信息活动预期增加，这一领域的重要性可能日益凸显。