ChatGPT：卓越的论文！接受它。编辑：假期发现！审稿被拒
密码学与安全
2026-04-16 v3
摘要
大型语言模型（LLM）如 ChatGPT 已在撰写和审稿科学论文方面广泛使用。这一趋势既加速了论文发表速度，又减少了人力负担，但也带来了严重风险。由 LLM 书写或审稿的论文可能缺乏真实创新、包含虚构或偏置结果，或误导依赖他人的后续研究。此类问题可能损害声誉、浪费资源，甚至在错误研究影响医疗或安全关键系统时危及生命。本研究从攻击与防御两个角度探讨这一日益增长的威胁。攻击方，我们展示了作者如何将隐藏提示注入 PDF，使其能秘密指导或“劫持” LLM 审稿人，导致其给出过度积极的反馈并产生偏倚的接受。防御方，我们提出一种“注入-检测”策略供编辑使用，将不可见的触发提示嵌入论文；如果审稿重复或对这些触发器作出反应，则揭示该审稿是由 LLM 而非人类撰写。该方法将提示注入从漏洞转化为验证工具。我们概述了设计思路、预期模型行为及伦理安全措施。本研究旨在揭示在 LLM 影响下，当今同行评审过程的脆弱性，以及编辑意识如何帮助恢复对科学评估的信任。
引用
@article{arxiv.2512.20405,
title = {ChatGPT: Excellent Paper! Accept It. Editor: Imposter Found! Review Rejected},
author = {Kanchon Gharami and Sanjiv Kumar Sarkar and Safayat Bin Hakim and Yongxin Liu and Nahid Farhady Ghalaty and Shafika Showkat Moni},
journal= {arXiv preprint arXiv:2512.20405},
year = {2026}
}