面向专业化 LLM 的路径：闭合专业化 LLM 与演化领域知识图谱之间的循环
计算与语言
2024-12-02 v1 人工智能
摘要
大型语言模型(LLM)在广泛领域展现出卓越的性能。然而，通用 LLM 在需要专业知识进行推理的任务上仍显不足。现有针对专业化 LLM 的研究主要集中于领域特定训练，这需要大量的领域数据获取和模型参数微调。为此，本文提出了 Way-to-Specialist(WTS)框架，利用检索增强生成与知识图谱(KG)的协同作用，增强 LLM 在缺乏专业化训练的情况下的专业化能力。与现有方法不同，WTS 提出一种创新的“LLM KG”范式，实现专业化 LLM 与领域知识图谱(DKG)之间的双向增强。该范式包含两个紧密耦合的组件：DKG 增强型 LLM 和 LLM 辅助 DKG 演化。前者从 DKG 中检索与问题相关的领域知识，并用于增强 LLM 处理领域特定任务的推理能力；后者利用 LLM 从处理后的任务中生成新的领域知识，并用于演化 DKG。WTS 关闭了 DKG 增强型 LLM 与 LLM 辅助 DKG 演化之间的循环，实现了随着不断回答和学习领域特定问题的过程中的领域专业化的持续改进。我们在覆盖 5 个领域的 6 个数据集上验证了 WTS 的性能。实验结果表明，WTS 在 4 个专业化领域中超越了以前的 SOTA，最高性能提升达 11.3%。
引用
@article{arxiv.2411.19064,
title = {Way to Specialist: Closing Loop Between Specialized LLM and Evolving Domain Knowledge Graph},
author = {Yutong Zhang and Lixing Chen and Shenghong Li and Nan Cao and Yang Shi and Jiaxin Ding and Zhe Qu and Pan Zhou and Yang Bai},
journal= {arXiv preprint arXiv:2411.19064},
year = {2024}
}
备注
Accepted by KDD 2025