优化语言学中的检索增强生成（RAG）：基于LoRA的粤语口语系统综述

本综述检视了最近在参数高效微调 (Parameter-Efficient Fine-Tuning, PEFT) 中的进展，特别是聚焦于低秩适应（Low-Rank Adaptation, LoRA），以优化如Qwen3、DeepSeek和Kimi等检索增强生成 (Retrieval-Augmented Generation, RAG) 系统。这些系统在理解和生成真实粤语口语表达方面面临挑战，由于标注数据有限和语言变异性。综述评估了LoRA在RAG框架内的集成，基准测试了各类PEFT方法在检索和生成准确度方面的表现，识别了在数据有限条件下的数据适应策略，并比较了旨在提高语义忠实度的微调技术。对近期研究进行了系统分析，包括多种LoRA变体、合成数据生成、用户反馈集成和自适应参数分配，以评估其对计算效率、检索精度、语言真实性和可扩展性的影响。研究结果表明，动态和集成LoRA适应显著减少了可训练参数，而不牺牲检索准确度和生成质量，尤其是在方言语境中。然而，在完全保留细粒度语言细微差别方面仍存在局限，尤其是针对粤语等低资源环境。将用户反馈和领域特定数据集成仍不成熟，限制了模型的适应性和个性化。虽然选择性参数冻结和非线性适应方法在效率与准确度之间提供了更好的权衡，但其规模化鲁棒性仍是未解之谜。本综述凸显了PEFT增强RAG系统在特定语言任务中的前景，呼吁未来工作聚焦于方言的真实性、动态适应和可扩展微调管道。