不要从头开始:一种在 LLM 之间迁移个性化提示的成本效益框架
计算与语言
2026-01-21 v1 信息检索
摘要
大型语言模型(LLM)中的个性化通常依赖于用户特定的软提示。然而,当基础模型升级时,这些提示会变得过时,从而需要进行昂贵的全量重新训练。为了克服这一限制,我们提出了提示级用户迁移适配器(PUMA),这是一个轻量级框架,用于在不兼容的模型之间高效迁移个性化提示。PUMA 利用参数高效的适配器来弥合语义鸿沟,并结合基于组的用户选择策略,以显著降低训练成本。在三个大规模数据集上的实验表明,我们的方法匹配甚至超越了从头开始重新训练的性能,同时将计算成本降低了高达 98%。该框架展示了跨不同模型架构的强大泛化能力,以及在链式和聚合迁移等高级场景中的鲁棒性,通过将用户资产与底层模型解耦,为个性化 AI 的可持续演进提供了一条实用路径。
引用
@article{arxiv.2601.12034,
title = {Don't Start Over: A Cost-Effective Framework for Migrating Personalized Prompts Between LLMs},
author = {Ziyi Zhao and Chongming Gao and Yang Zhang and Haoyan Liu and Weinan Gan and Huifeng Guo and Yong Liu and Fuli Feng},
journal= {arXiv preprint arXiv:2601.12034},
year = {2026}
}
备注
Accepted to AAAI 2026 (Oral). 9 pages, 5 figures