RAG、LoRA 与 DoRA 的幻觉与真实性：全面准确性评估
计算与语言
2025-02-18 v1 人工智能
摘要
生成式 AI 最新进展显著提升了自然语言处理（NLP）系统的效率和适应性，尤其通过检索增强生成（RAG）、低秩适应（LoRA）和权重分解低秩适应（DoRA）。RAG 将外部知识集成以增强生成输出的事实一致性，而 LoRA 使大型语言模型（LLMs）实现参数高效微调。DoRA 通过自适应参数排序和领域感知权重调整进一步优化微调过程，在保持推理性能的同时提高学习效率。本文对 RAG、LoRA 和 DoRA 进行大规模实证评估，在 20,000 条基于 FAQ 的查询上评估模型微调和生成性能，知识库覆盖 40 万条记录。该研究分析了准确性、相关性和推理延迟等关键性能指标。实验结果表明，DoRA 在准确性（90.1%）、相关性得分（0.88）和延迟（每查询 110 毫秒）方面均优于 LoRA 和 RAG，在实际、领域特定的生成式 AI 应用中表现更佳。此外，本研究检视了微调效率、计算成本与实时适应性之间的权衡。研究发现，RAG 在知识 grounding 方面效果突出，LoRA 在成本效益方面表现出色，而 DoRA 能够在微调效率与模型精度之间取得平衡。这些发现为在医疗、金融和法律等准确性关键领域部署 AI 驱动的生成系统提供了实用指导，确保在动态环境中实现可扩展性、可靠性和最佳性能。
引用
@article{arxiv.2502.10497,
title = {Hallucinations and Truth: A Comprehensive Accuracy Evaluation of RAG, LoRA and DoRA},
author = {Mohammad Baqar and Rajat Khanda},
journal= {arXiv preprint arXiv:2502.10497},
year = {2025}
}
备注
10 Pages