大语言模型的贝叶斯低秩自适应
机器学习
2024-02-07 v5
摘要
低秩自适应（LoRA）已成为大语言模型（LLMs）高性价比微调的新范式。然而，微调后的 LLM 常常变得过度自信，尤其是在小数据集上微调时。贝叶斯方法凭借其固有的不确定性估计能力，是缓解过度自信和改善校准的有力工具。在本工作中，我们引入 Laplace-LoRA，其对 LoRA 参数应用贝叶斯方法。具体而言，Laplace-LoRA 对 LoRA 参数上的后验应用拉普拉斯近似，显著改善了微调 LLM 的校准。
引用
@article{arxiv.2308.13111,
title = {Bayesian Low-rank Adaptation for Large Language Models},
author = {Adam X. Yang and Maxime Robeyns and Xi Wang and Laurence Aitchison},
journal= {arXiv preprint arXiv:2308.13111},
year = {2024}
}