用于知识库填充的自回归语言模型：以空间任务领域为例
计算与语言
2025-03-25 v1
摘要
知识库填充（KBP）通过利用领域语料库，在为组织机构填充和保持知识库最新方面发挥着关键作用。受大型语言模型支持的日益增大的上下文窗口的启发，我们提出微调一个自回归语言模型以实现端到端的 KBP。我们的案例研究涉及空间任务知识图谱的填充。为了微调模型，我们利用现有领域资源生成了一个用于端到端 KBP 的数据集。我们的案例研究表明，经过微调的有限规模语言模型在 KBP 任务中可以达到甚至超过更大模型的准确率。专为 KBP 训练的较小模型提供了可负担的部署和更低成本的推理。此外，KBP 专用模型不需要在提示词中包含本体，从而为上下文中的额外输入文本或输出序列化留出了更多空间。
引用
@article{arxiv.2503.18502,
title = {Autoregressive Language Models for Knowledge Base Population: A case study in the space mission domain},
author = {Andrés García-Silva and José Manuel Gómez-Pérez},
journal= {arXiv preprint arXiv:2503.18502},
year = {2025}
}
备注
Pre-print version