面向类 GPT 深度模型的提示高效微调，以减少科学文本生成中的幻觉并提升可复现性
计算与语言
2024-11-12 v1 人工智能
摘要
大语言模型（LLMs）越来越多地被用于复杂的科学文本生成任务，但它们常常在准确性、一致性和幻觉控制方面存在局限。本论文提出了一种针对类 GPT 模型的参数高效微调（PEFT）方法，旨在减轻幻觉并增强可复现性，特别是在质谱计算领域。我们实现了低秩适配（LoRA）适配器以微调 GPT-2，将其命名为 MS-GPT，并使用专门的质谱文献语料库进行训练。通过应用于 LLM 的新型评估方法，包括 BLEU、ROUGE 和困惑度分数，微调后的 MS-GPT 模型在文本连贯性和可复现性方面均优于基线 GPT-2，并通过 Wilcoxon 秩和检验的统计分析得到验证。此外，我们提出了一种基于受控提示下模型输出余弦相似度的可复现性度量方法，展示了 MS-GPT 的增强稳定性。本研究强调了 PEFT 在优化 LLM 用于科学语境方面的潜力，在降低计算成本的同时提升了模型可靠性。
引用
@article{arxiv.2411.06445,
title = {Prompt-Efficient Fine-Tuning for GPT-like Deep Models to Reduce Hallucination and to Improve Reproducibility in Scientific Text Generation Using Stochastic Optimisation Techniques},
author = {Daniil Sulimov},
journal= {arXiv preprint arXiv:2411.06445},
year = {2024}
}
备注
73 pages, 6 figures