隐私约束下基于协变量引导专家的单样本价格预测
机器学习
2026-01-21 v1 人工智能
摘要
电力系统中的预测通常涉及具有复杂依赖关系和严格跨区域隐私约束的多变量时间序列。传统的预测方法需要大量的专家知识,并且难以泛化到多样化的部署场景。预训练时间序列模型的最新进展提供了新的机遇,但它们在特定领域任务上的零样本性能仍然有限。为了应对这些挑战,我们提出了一种新颖的 MoE 编码器模块,通过在分词和编码之间注入稀疏的专家混合层来增强预训练的预测模型。这种设计实现了两个关键能力:(1)将多变量预测转化为专家引导的单变量任务,使模型能够有效捕捉变量间的关系;(2)支持在原始数据无法交换的联邦设置中进行本地化训练和轻量级参数共享。在公共多变量数据集上的大量实验表明,与强基线相比,MoE-Encoder 显著提高了预测精度。我们进一步模拟了联邦环境,并表明仅传输 MoE-Encoder 参数即可高效适应新区域,且性能下降最小。我们的发现表明,MoE-Encoder 为基础时间序列模型提供了一个可扩展且具有隐私意识的扩展。
引用
@article{arxiv.2601.11977,
title = {One-Shot Price Forecasting with Covariate-Guided Experts under Privacy Constraints},
author = {Ren He and Yinliang Xu and Jinfeng Wang and Jeremy Watson and Jian Song},
journal= {arXiv preprint arXiv:2601.11977},
year = {2026}
}