面向大语言模型智能体的分步欺骗：从真新闻到假新闻的演化模拟
机器学习
2025-09-15 v1
摘要
随着线上虚假信息的传播增长，理解真实新闻如何演化为假新闻已成为早期检测与预防的关键。然而，先前的研究往往假设假新闻本身就已存在，而未探讨其渐进形成过程。为填补这一空白，我们提出了FUSE（Fake news evolUtion Simulation framEwork），一种基于大语言模型（LLM）的新型仿真方法，显式聚焦假新闻从真实新闻的演化。我们的框架构建了一个包含四种不同类型LLM智能体的社交网络，这些智能体在日常互动中常见：传播者（spreaders）传播信息，评论者（commentators）提供解释，核查者（verifiers）进行事实核查，旁观者（bystanders）被动观察，以模拟逐步扭曲真实新闻的真实日常互动。为量化这些渐进扭曲，我们开发了FUSE-EVAL，一个综合性评估框架，沿多个语言和语义维度衡量真理偏差。结果表明，FUSE有效捕捉假新闻演化模式，准确再现已知的假新闻，与人类评估高度一致。实验表明，FUSE准确再现已知的假新闻演化情景，与人类判断高度一致，凸显了在早期阶段及时干预的重要性。该框架具有可扩展性，使未来研究能够拓展至更广泛的情景。
引用
@article{arxiv.2410.19063,
title = {An Investigation on Machine Learning Predictive Accuracy Improvement and Uncertainty Reduction using VAE-based Data Augmentation},
author = {Farah Alsafadi and Mahmoud Yaseen and Xu Wu},
journal= {arXiv preprint arXiv:2410.19063},
year = {2025}
}