面向大语言模型的贝叶斯混合参数高效微调方法
机器学习
2025-08-06 v1 人工智能
摘要
大语言模型 (LLM) 已展现出重塑世界的变革性潜力。由于这些模型在通用语料上进行预训练，往往需要针对特定业务应用进行领域细化以优化性能。鉴于其规模巨大，参数高效微调 (PEFT) 方法广泛用于降低训练成本。在此基础上，已取得最佳性能的混合 PEFT 方法将多个 PEFT 技术组合。然而，现有混合 PEFT 方法在针对特定应用对 LLM 进行细化时面临两个主要挑战：(1)依赖点估计，缺乏对不确定性的量化，难以进行可靠决策；(2)难以动态适应新数据，缺乏适应实际情况的能力。我们提出贝叶斯混合参数高效微调 (BH-PEFT)，一种将贝叶斯学习集成到混合 PEFT 中的新方法。BH-PEFT 将 Adapter、LoRA 和 prefix-tuning 组合，对 Transformer 的前馈层和注意力层进行细化。通过将可学习参数建模为分布，BH-PEFT 实现了不确定性量化。我们进一步提出了贝叶斯动态微调方法，其中最后的后验分布作为下一轮的先验分布，以实现对新数据的有效适应。我们在情感分析、新闻分类和常识推理等业务任务上评估了 BH-PEFT。结果表明，该方法优于现有 PEFT 基线，实现了对不确定性的量化，以便进行更可靠的决策，并在动态场景中提高了适应性。本工作通过提出支持不确定性感知和自适应决策的 novel BH-PEFT 方法和动态微调方法，为业务分析和数据科学做出了贡献。
引用
@article{arxiv.2508.02711,
title = {A Bayesian Hybrid Parameter-Efficient Fine-Tuning Method for Large Language Models},
author = {Yidong Chai and Yang Liu and Yonghang Zhou and Jiaheng Xie and Daniel Dajun Zeng},
journal= {arXiv preprint arXiv:2508.02711},
year = {2025}
}