AviationLLM：基于大语言模型的航空培训知识系统
人工智能
2025-06-18 v1
摘要
航空培训是确保飞行安全、提高行业效率和促进可持续发展的核心环节。它不仅涉及飞行模拟，也要求学习大量专业航空理论知识。在现有培训系统中，知识主要由教员传授。然而，教员数量有限，无法从互联网获得足够准确的专业答案，导致培训效率低下。为此，我们引入了大语言模型，但基础预训练模型无法提供专业领域的准确答案，因此对其进行微调。传统的监督式微调( SFT) 风险会生成表面合理但事实错误的响应，因为数据覆盖不足。为此，我们采用直接偏好优化( DPO)。本文提出了通过直接偏好优化实现检索增强型大语言模型对齐技术( RALA-DPO)。我们选取开源预训练大语言模型 Qwen，通过 DPO 进行航空理论培训的领域对齐。同时，为缓解由训练数据偏差、知识过时或领域知识缺口导致的幻觉问题，我们实施了将生成模型与检索模型结合的检索增强生成( RAG) 技术。RALA-DPO 有效地从外部知识库中检索相关信息，并通过生成模型提供精确和高质量的响应。实验结果表明，RALA-DPO 能提高对专业航空知识的响应准确性。集成 RAG 机制后，该系统可进一步提高答案的准确性，同时实现零成本知识更新。
引用
@article{arxiv.2506.14336,
title = {AviationLLM: An LLM-based Knowledge System for Aviation Training},
author = {Jia'ang Wan and Feng Shen and Fujuan Li and Yanjin Sun and Yan Li and Shiwen Zhang},
journal= {arXiv preprint arXiv:2506.14336},
year = {2025}
}