暴露粘稠式新闻：语言特征与抗 LLM 生成威胁的稳健检测
计算与语言
2025-12-08 v1 机器学习
摘要
本地新闻格局是为 2800 万美国人提供可靠信息的关键来源，面临来自粘稠式新闻 (Pink Slime Journalism) 的日益增长威胁，这类低质量自动生成文章模仿合法的本地报道。检测这些欺骗性文章需要对其语言、风格和词汇特征进行细粒度分析。本文我们进行一项全面研究，揭示粘稠式内容的区分性模式，并提出基于这些见解的检测策略。除了传统生成方法外，我们还指出一种新的对抗性向量：通过大语言模型 (LLM) 进行的修改。我们的发现表明，即使是面向消费者的 LLM 也能显著削弱现有检测系统的性能，F1 分数下降最高可达 40%。为抵御这一威胁，我们引入一个专为抵抗 LLM 基础对抗攻击而设计的稳健学习框架，以适应自动化粘稠式新闻不断演变的格局，并通过实验显示性能提升最高可达 27%。
引用
@article{arxiv.2512.05331,
title = {Exposing Pink Slime Journalism: Linguistic Signatures and Robust Detection Against LLM-Generated Threats},
author = {Sadat Shahriar and Navid Ayoobi and Arjun Mukherjee and Mostafa Musharrat and Sai Vishnu Vamsi},
journal= {arXiv preprint arXiv:2512.05331},
year = {2025}
}
备注
Published in RANLP 2025