用 xFakeSci 学习算法检测 ChatGPT 伪造科学文献
计算与语言
2024-04-16 v4 信息检索
摘要
以 ChatGPT 为代表的生成式 AI 工具正成为一种新现实。本研究的出发前提是“AI 生成内容可能表现出一种可与科学论文区分的独特行为”。在本研究中，我们展示了如何借助提示工程为各种疾病和病症生成文章。随后我们展示了如何在两个阶段中检验该前提并证明其有效性。接着，我们引入 xFakeSci，一种新颖的学习算法，能够区分 ChatGPT 生成的文章与科学家发表的文献。该算法使用源自两类来源的网络的模型进行训练。分类步骤使用每种病症 300 篇文章执行。实际标注步骤针对等量的 50 篇生成文章与 50 篇真实 PubMed 摘要混合进行。测试还涵盖了 2010 至 2024 年的发表时段，并包含三种不同疾病的研究：癌症、抑郁症与阿尔茨海默症。此外，我们将 xFakeSci 算法的准确率与一些经典数据挖掘算法（例如支持向量机、回归与朴素贝叶斯）进行了比较。xFakeSci 算法取得了 80% 至 94% 的 F1 分数，优于常见数据挖掘算法（其 F1 值为 38% 至 52%）。我们将这一显著差异归因于校准与邻近距离启发式的引入，这正是其优异表现的原因。的确，预测 ChatGPT 生成的伪造科学文献是一项重大挑战。尽管如此，xFakeSci 算法的提出是抗击伪造科学道路上重要的一步。
引用
@article{arxiv.2308.11767,
title = {Detection of ChatGPT Fake Science with the xFakeSci Learning Algorithm},
author = {Ahmed Abdeen Hamed and Xindong Wu},
journal= {arXiv preprint arXiv:2308.11767},
year = {2024}
}
备注
18 pages, 8 figures, 8 tables, 5 algorithms