MPCG：基于多轮角色条件生成的大语言模型错误信息演化建模
计算与语言
2025-09-23 v1 社会与信息网络
摘要
错误信息在传播过程中会不断演变，在语言、框架和道德侧重上发生变化以适应新的受众。然而，当前的错误信息检测方法隐含地假设错误信息是静态的。我们引入了MPCG，这是一个多轮、角色条件化的框架，用于模拟具有不同意识形态视角的智能体如何迭代地重新诠释声明。我们的方法使用一个未审查的大语言模型（LLM）在多轮中生成特定于角色的声明，每一轮的生成都以前一轮的输出为条件，从而能够研究错误信息的演化。我们通过人工和基于LLM的标注、认知努力指标（可读性、困惑度）、情感唤起指标（情感分析、道德性）、聚类、可行性以及下游分类来评估生成的声明。结果显示，人工标注与GPT-4o-mini标注之间具有高度一致性，但在流畅性判断上差异较大。生成的声明比原始声明需要更大的认知努力，并一致地反映出与角色一致的情感和道德框架。聚类和余弦相似度分析证实了语义漂移的存在，同时保持了主题连贯性。可行性结果显示77%的可行性率，证实了其适用于下游任务。分类结果显示，常用的错误信息检测器的宏观F1性能下降高达49.7%。代码可在https://github.com/bcjr1997/MPCG获取。
引用
@article{arxiv.2509.16564,
title = {MPCG: Multi-Round Persona-Conditioned Generation for Modeling the Evolution of Misinformation with LLMs},
author = {Jun Rong Brian Chong and Yixuan Tang and Anthony K. H. Tung},
journal= {arXiv preprint arXiv:2509.16564},
year = {2025}
}
备注
35 pages, 8 figures