理解用户配置文件在大型语言模型个性化中的作用
计算与语言
2024-06-27 v1 人工智能
信息检索
摘要
利用用户配置文件可增强大型语言模型(LLM)在广泛任务上的性能，但用户配置文件的具体作用及其对LLM的影响机制尚不清晰。本研究首先确认，用户配置文件的有效性主要源于个性化信息而非语义信息。进一步地，我们研究用户配置文件如何影响LLM的个性化。在用户配置文件中，我们揭示了由用户生成或批准的历史个性化响应在个性化LLM方面起着关键作用。此发现使LLM能够在有限输入长度的约束下，纳入更多用户配置文件。就用户配置文件的位置而言，我们观察到集成到输入上下文不同位置的用户配置文件对个性化贡献不等。相反，靠近开头的用户配置文件对LLM的个性化影响更大。我们的发现揭示了用户配置文件在LLM个性化中的作用，展示了如何有效地利用用户配置文件对性能产生影响，为有效利用用户配置文件提供了见解。
引用
@article{arxiv.2406.17803,
title = {Understanding the Role of User Profile in the Personalization of Large Language Models},
author = {Bin Wu and Zhengyan Shi and Hossein A. Rahmani and Varsha Ramineni and Emine Yilmaz},
journal= {arXiv preprint arXiv:2406.17803},
year = {2024}
}