面向联邦基础模型的双重个性化适配器

最近，基础模型，特别是大语言模型（LLM），展现出了通过微调各种指令数据来适应不同任务的惊人能力。值得注意的是，联邦基础模型（FedFM）作为一种隐私保护方法出现，它通过利用许多包含非独立同分布（non-IID）数据的分布式数据集，在联邦学习（FL）设置下协同微调模型。为了缓解通信和计算开销，引入了参数高效方法以提高效率，并且一些研究将个性化方法应用于 FedFM，以更好地对齐用户偏好。然而，现有研究中的一个关键空白是忽略了现实应用中的测试时分布偏移，而且个性化 FL 中用于测试时分布偏移的传统方法对 FedFM 效果不佳，因为它们无法适应复杂的分布偏移场景且需要训练所有参数。为了弥合这一空白，我们改进了 FedFM 中的设置，称为测试时个性化，旨在客户端学习个性化联邦基础模型的同时，有效处理测试时分布偏移。为了应对这一设置中的挑战，我们探索了一种简单而有效的解决方案，即联邦双重个性化适配器（FedDPA）架构。通过与基础模型协同工作，全局适配器和局部适配器共同应对测试时分布偏移和客户端特定的个性化。此外，我们引入了一种逐实例动态加权机制，在推理期间为每个测试实例动态整合全局和局部适配器，从而促进有效的测试时个性化。所提方法的有效性已在跨不同 NLP 任务的基准数据集上得到了评估。