面向非专业 LLM 用户的微调、检索增强生成与软提示性能基线建立
信息检索
2024-03-20 v2 人工智能
摘要
关于通过微调、检索增强生成（RAG）和软提示提升大语言模型（LLM）性能方法的研究，往往侧重于高度技术化或高成本技术的使用，使得许多新发现的方法对非技术用户相对难以触及。在本文中，我们测试了未修改版的 GPT 3.5、一个微调版本，以及同一未修改模型在接入向量化 RAG 数据库时的表现，包括单独使用以及与一个基础的、非算法化的软提示结合使用。在每种情况下，我们测试了模型回答一组主要关于 2021 年 9 月之后发生事件（GPT 3.5 训练数据集截止点）的 100 个问题的能力。我们发现，若使用商业平台并采用默认设置且不进行迭代以建立一组基线输出，微调模型优于 GPT 3.5 Turbo，而 RAG 方法优于两者。软提示的应用显著改善了每种方法的性能。
引用
@article{arxiv.2311.05903,
title = {Establishing Performance Baselines in Fine-Tuning, Retrieval-Augmented Generation and Soft-Prompting for Non-Specialist LLM Users},
author = {Jennifer Dodgson and Lin Nanzheng and Julian Peh and Akira Rafhael Janson Pattirane and Alfath Daryl Alhajir and Eko Ridho Dinarto and Joseph Lim and Syed Danyal Ahmad},
journal= {arXiv preprint arXiv:2311.05903},
year = {2024}
}
备注
10 pages, LaTeX; typos corrected, using the correct term 'system prompting' instead of 'soft prompting'