大语言模型是否知道它们知道多少？
计算与语言
2025-10-27 v3 人工智能
机器学习
摘要
大语言模型(LLMs)已作为高度可靠的系统而不断出现，其部署速度已超前于对其内部机制的全面理解以及对其能力和局限性的界定。智能系统的一个理想属性是其识别自身知识范围的能力。为探讨LLMs是否具备这一特征，我们开发了一个基准测试，以挑战这些模型枚举特定主题信息的能力。该基准测试评估模型是否回忆过多、不足还是恰好所需的信息，从而指示其对自身知识的意识。我们的发现表明，所有测试过的LLMs在足够规模的情况下， demonstrate 了对特定主题知识量的理解。虽然不同架构显示出这种能力出现的时间差异，但结果表明，知识意识可能是LLMs的通用属性。进一步的研究有望确认这一潜力并充分阐明其背后的机制。
引用
@article{arxiv.2502.19573,
title = {Do Large Language Models Know How Much They Know?},
author = {Gabriele Prato and Jerry Huang and Prasanna Parthasarathi and Shagun Sodhani and Sarath Chandar},
journal= {arXiv preprint arXiv:2502.19573},
year = {2025}
}
备注
Published as a long paper at the 2024 Conference on Empirical Methods in Natural Language Processing (EMNLP). Official version of paper within conference proceedings is available at https://aclanthology.org/2024.emnlp-main.348/