ComMer：一个用于个性化用户数据压缩与合并的框架

大型语言模型 (LLMs) 在广泛的任务中表现出色，但由于资源和计算限制，将它们适配到新数据（特别是个性化应用）带来了重大挑战。现有方法要么依赖于通过提示向模型暴露新数据，这受限于上下文大小且在推理时计算成本高昂；要么依赖于微调，这会产生大量的训练和更新成本。在本文中，我们介绍了 ComMer——压缩与合并——一种新颖的框架，它通过将用户的文档压缩为紧凑的表示，然后将其合并并输入到冻结的 LLM 中，从而高效地个性化 LLMs。我们在两种类型的个性化任务上评估了 ComMer——使用 LaMP 基准的推文释义数据集和个性化新闻标题生成数据集的个性化技能学习，以及使用 PerLTQA 数据集的知识密集型任务。我们的实验表明，在推理预算受限的场景中，ComMer 在技能学习任务中实现了卓越的质量，同时由于详细信息的丢失，突显了在知识密集型设置中的局限性。这些结果为个性化多文档压缩中的权衡和潜在优化提供了见解。