大语言模型如何捕捉不断变化的世界知识?近期进展综述
计算与语言
2023-10-12 v1
摘要
尽管大语言模型(LLMs)在解决各类任务上表现优异,但部署后会迅速过时。在当前时代,维持其最新状态是紧迫关切。本文全面综述了在不从头重训的前提下使 LLM 与不断变化世界知识对齐的近期进展。我们系统性地归类研究工作,并提供深入比较与讨论。我们也探讨现有挑战并指明未来方向以推动该领域研究。我们在 https://github.com/hyintell/awesome-refreshing-llms 发布了论文列表。
引用
@article{arxiv.2310.07343,
title = {How Do Large Language Models Capture the Ever-changing World Knowledge? A Review of Recent Advances},
author = {Zihan Zhang and Meng Fang and Ling Chen and Mohammad-Reza Namazi-Rad and Jun Wang},
journal= {arXiv preprint arXiv:2310.07343},
year = {2023}
}
备注
EMNLP 2023 main conference, paper link at https://github.com/hyintell/awesome-refreshing-llms