逐步欺骗：利用大语言模型智能体模拟真实新闻向虚假新闻的演化
社会与信息网络
2025-05-29 v2 人工智能
摘要
随着在线虚假信息的日益蔓延，理解真实新闻如何演变为虚假新闻对于早期检测和预防至关重要。然而，以往的研究往往假设虚假新闻固有存在，而非探索其逐步形成的过程。为弥补这一空白，我们提出了 FUSE（虚假新闻演化模拟框架），一种新颖的基于大语言模型（LLM）的模拟方法，专门研究从真实新闻演化而来的虚假新闻。我们的框架模拟了一个社交网络，其中包含日常互动中常见的四种类型的 LLM 智能体：传播者（散布信息）、评论者（提供解读）、验证者（核实事实）和旁观者（被动观察），以模拟逐渐扭曲真实新闻的现实日常互动。为了量化这些逐步的扭曲，我们开发了 FUSE-EVAL，一个全面的评估框架，从多个语言和语义维度衡量真实性偏差。结果表明，FUSE 有效捕捉了虚假新闻的演化模式，并准确重现了已知的虚假新闻，与人类评估高度一致。实验证明，FUSE 能准确重现已知的虚假新闻演化场景，与人类判断高度吻合，并强调了及时干预的重要性。我们的框架具有可扩展性，为未来更广泛的虚假新闻场景研究提供了可能。
引用
@article{arxiv.2410.19064,
title = {The Stepwise Deception: Simulating the Evolution from True News to Fake News with LLM Agents},
author = {Yuhan Liu and Zirui Song and Juntian Zhang and Xiaoqing Zhang and Xiuying Chen and Rui Yan},
journal= {arXiv preprint arXiv:2410.19064},
year = {2025}
}