provenance问题:LLM与引用规范的崩溃
计算机与社会
2025-09-18 v1 人工智能
摘要
生成式AI在科学写作中的日益广泛使用,引发了关于归因和知识信用权的紧迫问题。当研究人员使用ChatGPT撰写论文时,所产生的文本可能反映了作者从未接触的来源的想法。如果AI系统在没有引用的情况下复刻了来自某份1975年文献的洞见,这算是严重抄袭吗?我们认为,这类案例体现了“provenance问题”:学术信用链的系统性崩溃。与传统抄袭不同,这种现象不涉及欺骗意图(研究人员可能披露AI使用并诚实行事),但仍从未获得信用的他人智力贡献中获益。这一动态创造了一种新的归因性伤害,现有的伦理和职业框架未能加以应对。随着生成式AI嵌入学科,重要想法在未获认可的情况下流通的风险威胁了科学声誉经济以及知识正义的要求。本篇视角分析了AI如何挑战学术署名规范,提出概念工具以理解provenance问题,并提出策略以维持学术沟通的完整性和公平性。
关键词
引用
@article{arxiv.2509.13365,
title = {The Provenance Problem: LLMs and the Breakdown of Citation Norms},
author = {Brian D. Earp and Haotian Yuan and Julian Koplin and Sebastian Porsdam Mann},
journal= {arXiv preprint arXiv:2509.13365},
year = {2025}
}
备注
9 pages