面向汽车行业PDF聊天机器人的RAG技术优化：基于本地部署Ollama模型的案例研究
信息检索
2024-08-13 v1 人工智能
多智能体系统
摘要
随着对汽车工业生产环境中离线PDF聊天机器人需求的增长，优化在本地低性能环境中部署大型语言模型（LLM）的技术变得越来越重要。本研究聚焦于使用本地部署的Ollama模型提高处理复杂汽车行业文件的检索增强生成（RAG）技术。基于Langchain框架，我们提出了针对Ollama本地RAG实现的多维优化方法。该方法针对汽车行业文件的关键挑战，包括多列布局和技术规范，提供了改进。我们针对汽车行业文件的独特特征，引入了PDF处理、检索机制和上下文压缩方面的改进。此外，我们设计了支持嵌入管道的自定义类以及基于LangGraph最佳实践的自RAG代理。为评估我们的方案，我们构建了由典型汽车行业文件组成的专有数据集，包括技术报告和公司规程。我们将优化后的RAG模型和自RAG代理与朴素RAG基线进行比较，分别在我们的汽车行业数据集、QReCC和CoQA三个数据集上进行测试。结果表明，在上下文精确度、上下文召回率、答案相关性和忠实性方面，均实现了显著提升，尤其是在汽车行业数据集上表现尤为突出。我们的优化方案为汽车行业部署本地RAG系统提供了有效解决方案，满足工业生产环境中PDF聊天机器人特定需求。这一研究对推动汽车行业的信息处理和智能生产具有重要意义。
引用
@article{arxiv.2408.05933,
title = {Optimizing RAG Techniques for Automotive Industry PDF Chatbots: A Case Study with Locally Deployed Ollama Models},
author = {Fei Liu and Zejun Kang and Xing Han},
journal= {arXiv preprint arXiv:2408.05933},
year = {2024}
}