基于检索增强生成与微调的大语言模型聚合材料复合材料增材制造领域适应
计算与语言
2026-05-14 v1 人工智能
摘要
通用大语言模型 (LLM) 常因领域 grounding 不足和缺乏结构化技术知识的暴露，而在专业工程领域难以生成可靠响应。本研究探讨了将基础 LLM 适应增材制造 (AM) 领域以提高 expert-level 问题解答准确性、相关性和可用性的实用策略。AM 知识分布在异构来源中，如学术文献、制造商文档、技术标准和程序指南。尽管通用 LLM 在语言能力方面表现强劲，但它们经常无法检索和上下文化此类领域特定信息。两种常见的解决方法是领域特定微调和检索增强生成 (RAG)。我们构建了精选的 AM 语料库，并评估了基于 LLaMA-3-8B 的三种配置：(1) 预训练基线模型，(2) 从向量数据库中检索相关文档块的 RAG 系统，(3) 在原始领域文本上微调的模型。采用 200 个专家设计的 AM 问题进行评估，由机械工程专家评估其准确性、相关性和整体偏好。结果表明，RAG 模型在所有指标上均显著优于基线模型：其中 75.5% 的 RAG 回复被判为更准确，85.2% 被整体偏好，90.8% 被评为更相关。相比之下，仅在 5.6% 的情况下基于 AM 文本微调的模型能产生更准确的答案，仅 32.5% 的回复更相关。这些结果表明，检索增强方法为适应专业工程领域的 LLM 提供了比粗糙的领域文本微调更有效的路径。
引用
@article{arxiv.2605.12516,
title = {Domain Adaptation of Large Language Models for Polymer-Composite Additive Manufacturing Using Retrieval-Augmented Generation and Fine-Tuning},
author = {Saiful Islam Sagor and Tania Haghighi and Minhaj Nur Alam and Erina Baynojir Joyee},
journal= {arXiv preprint arXiv:2605.12516},
year = {2026}
}