参数高效调优实现 LLM 文本输入的可扩展个性化：缩写展开案例研究
计算与语言
2023-12-25 v1
摘要
缩写展开是一种通过减少打字量并利用语言模型建议展开内容来加速沟通的策略。在此，我们研究如何基于先前的对话对大型语言模型 (LLM) 的建议进行个性化，以增强预测的相关性，特别是在用户数据量较小（约 1000 个样本）的情况下。具体而言，我们比较了针对缩写输入进行展开文本建议的微调、提示调优和检索增强生成方法。我们在一名患有肌萎缩侧索硬化症 (ALS) 的真实用户身上部署了 8B 参数 LLM 进行的案例研究，以及在电影角色个性化方面的实验表明：(1) 在某些场景下定制化是必要的，而提示调优能很好地泛化到这些场景；(2) 即使在领域内数据极少（少至 600 个样本）的情况下进行微调仍能带来一定增益；(3) 检索增强的少样本选择表现优于微调；(4) 参数高效调优可实现高效且可扩展的个性化。对于提示调优，我们还发现将学习到的“软提示”初始化为与用户相关的概念 token，比随机初始化能获得更高的准确率。
引用
@article{arxiv.2312.14327,
title = {Parameter Efficient Tuning Allows Scalable Personalization of LLMs for Text Entry: A Case Study on Abbreviation Expansion},
author = {Katrin Tomanek and Shanqing Cai and Subhashini Venugopalan},
journal= {arXiv preprint arXiv:2312.14327},
year = {2023}
}