联邦时间序列基础模型的离散原型记忆
机器学习
2026-04-07 v1 人工智能
摘要
利用大语言模型 (LLMs) 作为基于联邦学习 (FL) 的时间序列基础模型，有望将 LLMs 的泛化能力迁移到时间序列数据上，同时保留对私有数据的访问。然而，时间序列数据与现有 LLMs 以文本为中心的潜在空间之间的语义错位往往导致性能下降。同时，现有联邦学习方法中的参数共享机制将异构跨域时间序列数据建模为统一的连续潜在空间，这与时间序列语义经常表现为离散且循环出现的范式这一事实相矛盾。为解决这些限制，我们提出了 FeDPM，一个基于离散原型记忆的联邦时间序列基础模型框架。具体而言，我们学习局部原型记忆先验以处理域内时间序列数据。随后对齐跨域记忆以促进统一的离散潜在空间，并引入领域特定的记忆更新机制以平衡共享与个性化的原型知识。大量实验证明了 FeDPM 的效率与有效性。代码公开于 https://anonymous.4open.science/r/FedUnit-64D1。
引用
@article{arxiv.2604.04475,
title = {Discrete Prototypical Memories for Federated Time Series Foundation Models},
author = {Liwei Deng and Qingxiang Liu and Xinhe Niu and Shengchao Chen and Sheng Sun and Yuankai Wu and Guodong Long and Yuxuan Liang},
journal= {arXiv preprint arXiv:2604.04475},
year = {2026}
}
备注
13 pages,5 figures