中文

基于频率域的单度理论多层感知机模型:FSMLP 用于通道依赖建模

机器学习 2026-03-05 v3

摘要

时间序列预测(TSF)在 web 数据分析、能源消耗预测和天气预报等多个领域发挥着关键作用。虽然多层感知机(MLP)轻量且有效地捕获时间依赖性,但在用于建模通道间依赖性时容易出现过拟合。本文使用 Rademacher 复杂度理论探讨了通道级 MLP 中的过拟合问题,揭示极端值在时间序列数据中的存在会加剧此问题。为缓解此问题,我们引入了单度-MLP 层,约束权重位于标准单度内。此策略鼓励模型学习更简单的模式,从而减少对极端值的过拟合。基于单度-MLP 层,我们提出了新的频率单度 MLP(FSMLP)框架,用于时间序列预测,包含两个模块:单度通道-感知 MLP(SCWM)和频率时间 MLP(FTM)。SCWM 有效利用单度-MLP 捕获通道间依赖性,而 FTM 是一个简单而高效的时序 MLP,用于从数据中提取时序信息。我们的理论分析表明,单度-MLP 的 Rademacher 复杂度上界低于标准 MLP。此外,我们在七个基准数据集上验证了所提方法,显示在预测准确度和效率方面均有显著提升,同时展示了卓越的可扩展性。我们还展示了单度-MLP 可改善其他使用通道级 MLP 的方法,实现更少的过拟合和更佳性能。代码可在 \href{https://github.com/FMLYD/FSMLP}{\textcolor{red}{here}} 获取。

关键词

引用

@article{arxiv.2412.01654,
  title  = {FSMLP: Modelling Channel Dependencies With Simplex Theory Based Multi-Layer Perceptions In Frequency Domain},
  author = {Zhengnan Li and Haoxuan Li and Hao Wang and Jun Fang and Yuting Tan and Xilong Cheng Yunxiao Qin},
  journal= {arXiv preprint arXiv:2412.01654},
  year   = {2026}
}