语言模型在科学中的缩短寿命

规模定律描述了语言模型能力如何随计算资源和数据增长，但未说明模型发布后多久就不再重要。我们提供了科学家采纳和放弃语言模型的时间序列经验数据。我们追踪了62个LLM，覆盖超过108k篇引用论文（2018-2025），每篇论文发布后至少有三年数据，并将每一次引用分类为主动采纳或背景引用，以构建每个模型的采纳轨迹——这与原始引用计数无法分辨。我们发现三个规律：第一，科学采纳遵循倒U型轨迹：使用在发布后增长，达到峰值，然后随新模型出现而下降，我们称之为“科学采纳曲线”。第二，此曲线正在压缩：每个额外的发布年份与到达峰值采纳时间减少27%（$p < 0.001$），robust to minimum-age thresholds and controls for model size。第三，发布时间在模型层面属性中占主导地位，作为生命周期动力学的预测因子。发布年份解释了到达峰值时间和科学寿命，优于架构、开放性或规模，尽管模型规模和获取方式仍对总采纳量保留适度的预测能力。总体而言，这些发现补充了规模定律，提供了采纳侧的规律，并暗示推动快速能力进步的力量可能也是压缩科学相关性的力量。