结构熵引导的智能体用于检测与修复大语言模型中的知识缺陷
计算与语言
2025-05-13 v1
摘要
大语言模型（LLMs）通过利用海量预训练语料库取得了前所未有的性能，但在医学和科学研究等需要高事实精度的知识密集型领域，其表现仍不尽如人意。虽然合成数据为增强领域知识提供了一条有前景的途径，但现有方法常常生成与模型真实知识缺口不匹配的冗余样本。为克服这一局限，我们提出了一种新颖的结构熵引导知识导航器（SENATOR）框架，以解决大语言模型的内在知识缺陷。我们的方法采用结构熵（SE）度量来量化知识图谱路径上的不确定性，并利用蒙特卡洛树搜索（MCTS）选择性地探索模型缺乏领域特定知识的区域。在这些见解的指导下，该框架生成有针对性的合成数据用于监督微调，从而实现持续自我改进。在 LLaMA-3 和 Qwen2 上跨多个领域特定基准的实验结果表明，SENATOR 能有效检测并修复知识缺陷，取得了显著的性能提升。我们的方法和实验的代码与数据可在 https://github.com/weiyifan1023/senator 获取。
引用
@article{arxiv.2505.07184,
title = {Structural Entropy Guided Agent for Detecting and Repairing Knowledge Deficiencies in LLMs},
author = {Yifan Wei and Xiaoyan Yu and Tengfei Pan and Angsheng Li and Li Du},
journal= {arXiv preprint arXiv:2505.07184},
year = {2025}
}