链式思维：用于识别 AI 生成文本所属 LLM 的方法
计算与语言
2025-04-24 v1 人工智能
摘要
近年来，AI 生成文本的检测已成为因学术诚信、误导信息和伦理 AI 部署等问题而产生的关键研究领域。本文提出了 COT Fine-tuned，一种 Novel 框架，用于检测 AI 生成文本并识别负责生成文本的特定语言模型。我们提出了双任务方法，其中任务 A 涉及将文本分类为 AI 生成或人类撰写，任务 B 则识别文本背后特定的 LLM。我们方法的关键创新在于使用链式思维 (Chain-of-Thought reasoning)，使模型能够为其预测生成解释，从而增强透明度和可解释性。我们的实验表明，COT Fine-tuned 在两项任务中均实现了高准确率，在 LLM 识别和人类-AI 分类方面表现突出。我们还展示了 CoT 推理过程对模型效果和可解释性具有显著贡献。
引用
@article{arxiv.2504.16913,
title = {Tracing Thought: Using Chain-of-Thought Reasoning to Identify the LLM Behind AI-Generated Text},
author = {Shifali Agrahari and Sanasam Ranbir Singh},
journal= {arXiv preprint arXiv:2504.16913},
year = {2025}
}
备注
De-Factify 4: 4th Workshop on Multimodal Fact Checking and Hate Speech Detection, co-located with AAAI 2025. Pennsylvania