面向建筑LLMs的领域特定幻觉抑制：基于River和沉积物控制技术标准的知识图谱驱动GraphRAG与QLoRA
信息检索
2026-03-17 v1 机器学习
摘要
本文解决了利用开源大语言模型在本地硬件上回答源自日本河川与沉积物控制技术标准问题的挑战——该多卷册法规文件涵盖河岸、水坝和堤坡等设施的勘测、规划、设计与维护。我们实现并评估了三种互补方法：案例A（纯20B LLM基线）、案例B（8B LLM采用QLoRA在715个图结构QA对上进行领域微调）以及案例C（20B LLM通过GraphRAG集成Neo4j知识图谱）。所有案例均使用日本适配LLM系列Swallow，评估基于100题基准（覆盖8个技术类别），由独立LLM(Qwen2.5-14B)评分0-3分。关键发现为性能反转：8B QLoRA微调模型（案例B：2.92/3）超过了20B纯基线（案例A：2.29/3，提升+0.63）和20B GraphRAG方法（案例C：2.62/3，提升+0.30），同时实现3倍更快的延迟（14.2秒 vs 42.2秒）。GraphRAG虽提供中等提升（较基线提升+0.33），但在质量和效率方面均被领域特定微调所优势。我们记录了完整的工程流程，包括知识图谱构建（200个节点、268个关系）、从Neo4j关系生成QLoRA训练数据、单GPU(16GB VRAM)上使用unsloth训练、GGUF Q4_K_M量化与Ollama部署，以及图检索与重排序设计。在正文中概述高层工程教训；实现陷阱与工具链细节则记录在补充材料中。
引用
@article{arxiv.2603.13307,
title = {Suppressing Domain-Specific Hallucination in Construction LLMs: A Knowledge Graph Foundation for GraphRAG and QLoRA on River and Sediment Control Technical Standards},
author = {Takato Yasuno},
journal= {arXiv preprint arXiv:2603.13307},
year = {2026}
}
备注
17 pages, 5 figures, 8 tables