Co-LoRA：异构多模态客户端上的协同模型个性化
机器学习
2026-03-10 v4 人工智能
分布式、并行与集群计算
摘要
随着 AI 变得越来越个性化（例如 Agentic AI），针对各种用例个性化模型的需求日益增加。个性化联邦学习（Personalized Federated Learning, PFL）使每个客户端能够协作利用其他客户端的知识，以更好地适应感兴趣的任务，且没有隐私风险。尽管具有潜力，现有的 PFL 方法仍局限于相当简化的场景，即各客户端的数据和模型相同。为了迈向现实场景，我们通过同时解决数据和模型异构性，超越了这些限制性假设。我们提出了一种任务相关性感知的模型聚合策略，以减少异构数据下的参数干扰。此外，我们引入了 Co-LoRA，这是一个维度不变模块，支持跨异构架构的知识共享。为了模拟现实世界的任务多样性，我们提出了一个多模态 PFL 基准，涵盖 40 个不同的任务，并随时间产生分布偏移。大量实验表明，我们提出的方法在异构场景下显著优于最先进的 PFL 方法。
引用
@article{arxiv.2506.11024,
title = {Co-LoRA: Collaborative Model Personalization on Heterogeneous Multi-Modal Clients},
author = {Minhyuk Seo and Taeheon Kim and Hankook Lee and Jonghyun Choi and Tinne Tuytelaars},
journal= {arXiv preprint arXiv:2506.11024},
year = {2026}
}
备注
ICLR 2026