终身演化：大型与小型语言模型协同学习中的持续新兴假新闻检测
计算与语言
2025-06-06 v1 人工智能
摘要
社交媒体上假新闻的广泛传播对社会产生了显著影响，造成了严重后果。传统的深度学习方法使用小型语言模型（SLM）时，受限于大量监督训练需求以及数据稀缺和分布迁移导致的适应新闻环境的困难。虽然大型语言模型（LLM）具备强大的零样本能力，但因知识过时且缺乏合适的示例，在准确检测假新闻方面不足。在本文中，我们提出了一种 novel 持续协同式新兴假新闻检测框架（Continuous Collaborative Emergent Fake News Detection, CEFND），以解决上述挑战。CEFND 框架通过多轮协同学习框架，战略性地利用 LLM 的泛化能力和 SLM 的分类专长。我们进一步引入基于 Mixture-of-Experts 架构的终身知识编辑模块，用于增量更新 LLM，并采用重放式持续学习方法确保 SLM 在不完全重新训练的情况下保留先前知识。在 Pheme 和 Twitter16 数据集上的大量实验表明，CEFND 显著优于已有方法，有效提升了持续新兴假新闻情境下的检测准确率和适应性。
引用
@article{arxiv.2506.04739,
title = {Lifelong Evolution: Collaborative Learning between Large and Small Language Models for Continuous Emergent Fake News Detection},
author = {Ziyi Zhou and Xiaoming Zhang and Litian Zhang and Yibo Zhang and Zhenyu Guan and Chaozhuo Li and Philip S. Yu},
journal= {arXiv preprint arXiv:2506.04739},
year = {2025}
}