基于参数化记忆注入的个性化LLM响应生成
计算与语言
2025-01-15 v3
摘要
大型语言模型(LLM)在理解和生成自然语言方面展现出了卓越的能力。另一方面，个性化的LLM响应生成有望在医疗等关键领域为个人提供实质性益处。现有研究探索了记忆增强方法，利用预存的用户特定知识提示LLM，以针对新查询生成个性化响应。我们认为这种范式无法感知细粒度信息。在本研究中，我们提出了一种新颖的基于参数高效微调(PEFT)的记忆注入方法，并结合贝叶斯优化搜索策略，以实现LLM个性化。
引用
@article{arxiv.2404.03565,
title = {Personalized LLM Response Generation with Parameterized Memory Injection},
author = {Kai Zhang and Yejin Kim and Xiaozhong Liu},
journal= {arXiv preprint arXiv:2404.03565},
year = {2025}
}