可预测的虚构：LLM的事实召回随模型规模与主题频率而缩放
计算与语言
2026-05-19 v1 人工智能
机器学习
摘要
虽然缩放定律支配着大型语言模型的整体性能，但目前还没有缩放定律将事实召回与模型规模和训练数据组成联系起来。我们在由自动参考文献验证系统评估的8,900多篇学术参考文献上评估了38个模型。召回质量遵循模型参数量与训练数据中主题表示的对数线性组合的S型函数。仅这两个变量就解释了来自四个家族的16个稠密模型中60%的方差，在单个家族内上升到74-94%。该形式与一种受叠加启发的解释相吻合，即召回受信噪比控制：信号强度随概念频率缩放，而噪声底限随模型容量缩放。
引用
@article{arxiv.2605.18732,
title = {Predictable Confabulations: Factual Recall by LLMs Scales with Model Size and Topic Frequency},
author = {Matthew L. Smith and Jonathan P. Shock and Samuel T. Segun and Iyiola E. Olatunji and Tegawendé F. Bissyandé},
journal= {arXiv preprint arXiv:2605.18732},
year = {2026}
}
备注
18 pages, 5 figures, 6 tables