大语言模型可以在没有外部监督的情况下自主学习

在追求超人类性能的过程中，大语言模型（LLM）传统上依赖于人工标注的数据集和预定义的训练目标——这一过程既劳动密集又存在固有限制。本文提出了一种变革性的方法：LLM的自主学习，这是一种自给自足的学习范式，使模型摆脱了人类监督的束缚。该方法赋予LLM通过直接与文本交互进行自我教育的能力，类似于人类阅读和理解文献。我们的方法消除了对标注数据的依赖，营造了一个自主学习环境，模型在其中独立识别并强化其知识盲区。来自我们综合实验的实证结果（实验使用了多样化的学习材料，并针对标准公共测验进行评估）表明，自主学习在性能上超越了预训练、监督微调（SFT）以及检索增强方法。这些发现强调了自主学习的潜力，不仅能够提高LLM训练的效率和效果，还能为开发更先进、更自主的AI系统铺平道路。