面向协作式的高效个性化大语言模型

个性化大语言模型(LLM)旨在根据 individual user preferences 调整交互方式、内容和推荐。虽然参数高效微调(PEFT)方法在性能和泛化性方面表现优异，但当以 individual 方式使用时成本高昂且难以共享 communal benefits。为此，我们引入Personalized Pieces(Per-Pcs)，一个允许用户安全共享和组装个性化PEFT的框架。Per-Pcs涉及选择贡献者、将其PEFT拆分为碎片、为每个碎片训练选择器。这些碎片被添加到共享池中，目标用户可根据其历史数据选择并组装个性化PEFT。该方法保护隐私，无需额外存储和计算需求即可实现细粒度的用户建模。实验结果表明，Per-Pcs在六个任务上均优于非个性化和PEFT检索基线，性能相当于OPPU但资源使用显著更低。进一步分析表明，Per-Pcs在贡献者数量、选择策略、碎片共享比率以及计算时间和存储空间的可扩展性方面具有良好鲁棒性。Per-Pcs的模块化设计促进了安全共享，使LLM个性化更加高效、有效且广泛可访问。