ConspEmoLLM-v2：检测情感转换阴谨论的稳健且可靠的模型
计算与语言
2025-10-28 v1
摘要
尽管大型语言模型（LLM）带来了许多好处，但它们也可能造成伤害，例如通过自动生成虚假信息，包括阴谨论。此外，LLM还可以“伪装”阴谨论，通过改变其典型的文本特征来实现，例如通过将其通常强烈的负面情感转化为更积极的语调。尽管已有多项研究提出了自动阴谨论检测方法，但这些方法通常使用人类撰写的文本进行训练，其特征可能与LLM生成的文本有所不同。此外，几项阴谨论检测模型，包括之前提出的ConspEmoLLM，都严重依赖人类撰写阴谨论内容的典型情感特征。因此，故意伪装的内容可能难以被检测到。为应对此问题，我们首先开发了一个增强版Conspiracy Detection数据集ConDID-v2，该数据集为人类撰写的阴谨论推文补充了由LLM重写的版本，以降低其原始情感的消极性。通过结合人类和LLM-based评估来验证重写推文的质量。随后，我们使用ConDID-v2训练了ConspEmoLLM-v2，这是ConspEmoLLM的一个增强版本。实验结果表明，ConspEmoLLM-v2在ConDID中原始人类撰写内容上的表现保持或超过ConspEmoLLM，并且在ConDID-v2中的情感转换推文方面显著优于ConspEmoLLM和多个其他基线方法。该项目将在https://github.com/lzw108/ConspEmoLLM上提供。
引用
@article{arxiv.2505.14917,
title = {ConspEmoLLM-v2: A robust and stable model to detect sentiment-transformed conspiracy theories},
author = {Zhiwei Liu and Paul Thompson and Jiaqi Rong and Sophia Ananiadou},
journal= {arXiv preprint arXiv:2505.14917},
year = {2025}
}
备注
work in progress