利用 LoRA 微调与知识库进行构式识别
计算与语言
2026-01-21 v1
摘要
本研究通过将大型语言模型的基于 LoRA 的微调与检索增强生成（RAG）框架相结合，探讨了英语双及物构式的自动识别。在来自英国国家语料库的标注数据上进行了二元分类任务。结果表明，经 LoRA 微调的 Qwen3-8B 模型显著优于原生 Qwen3-MAX 模型和仅基于理论的 RAG 系统。详细的错误分析表明，微调将模型的判断从表层形式模式匹配转变为基于更深层语义的理解。
引用
@article{arxiv.2601.13105,
title = {Leveraging Lora Fine-Tuning and Knowledge Bases for Construction Identification},
author = {Liu Kaipeng and Wu Ling},
journal= {arXiv preprint arXiv:2601.13105},
year = {2026}
}
备注
19pages, 1figure