探索未知：自学习大语言模型
人工智能
2024-11-13 v4
摘要
我们致力于解决自学习大语言模型（LLM）的主要问题：学习什么的问题。我们提出了一个自学习 LLM 框架，使 LLM 能够通过自我评估其自身的幻觉，独立学习先前未知的知识。我们引入了一个名为“未知点”（Point in the Unknown, PiU）的概念，用于识别模型未知的原子知识，并提出了四种自动识别 PiU 的方法，从而促进创建一个专注于将当前未知知识吸收到模型中的自学习循环。此外，我们开发了评估指标来衡量 LLM 的自学习能力。我们的实验表明，参数至少为 3B 且经过一些指令训练的 LLM 能够很好地执行自学习。我们进一步通过比较经过自学习的模型与未经过自学习的模型的性能，证明了自学习的有效性。我们的自学习概念允许更高效的 LLM 更新，并为 LLM 知识交流开辟了新的视角。
引用
@article{arxiv.2402.09147,
title = {Into the Unknown: Self-Learning Large Language Models},
author = {Teddy Ferdinan and Jan Kocoń and Przemysław Kazienko},
journal= {arXiv preprint arXiv:2402.09147},
year = {2024}
}
备注
Accepted to SENTIRE 2024 (ICDM Workshops): https://sentic.net/sentire2024ferdinan.pdf