Evontree：基于本体规则引导的大型语言模型自演化
计算与语言
2026-03-18 v2 人工智能
摘要
尽管大型语言模型 (LLM) 在通用领域表现卓越，但幻觉问题在医疗和法律等专业领域构成重大风险，后者需要高可解释性。现有微调方法高度依赖大规模专业数据集，而这类数据集常因隐私法规难以获取。此外，现有的自演化方法主要针对通用领域，可能难以适应知识密集型领域 due to lack of knowledge constraints。在本文中，我们提出一种本体规则引导的方法 Evontree，以实现低资源专业领域中 LLM 的自演化。具体而言，Evontree 首先从原始模型中提取领域本体知识，然后通过两个核心本体规则检测知识不一致性，最后通过自蒸馊微调将补齐的知识强化到模型中。针对医学问答基准测试，使用 Llama3-8B-Instruct 和 Med42-V2 进行广泛评估，结果表明 Evontree 有效，优于基线模型和强大的方法，准确率提升最高可达 3.7%。详细的消融研究进一步验证了我们方法的鲁棒性。
引用
@article{arxiv.2510.26683,
title = {Evontree: Ontology Rule-Guided Self-Evolution of Large Language Models},
author = {Mingchen Tu and Zhiqiang Liu and Juan Li and Liangyurui Liu and Junjie Wang and Lei Liang and Wen Zhang},
journal= {arXiv preprint arXiv:2510.26683},
year = {2026}
}