中文

COTN:用于极端条件下复杂波动系统的混沌振荡Transformer网络

机器学习 2025-11-11 v1 人工智能

摘要

在极端条件下,金融和电力市场的准确预测仍是一个重大挑战,由于其内在的非线性、快速波动和混沌模式。为此,我们提出了混沌振荡Transformer网络(COTN)。COTN创新性地将Transformer架构与新颖的Lee振荡激活函数结合,经过Max-over-Time池化和lambda门控机制处理。这一设计专为有效捕捉混沌动力学并在波动性加剧的时期提高响应性而设计,传统激活函数(如ReLU、GELU)倾向于饱和。此外,COTN集成了自编码器自回归(ASR)模块,用于检测和隔离异常市场模式,如突发价格尖峰或崩溃,从而防止核心预测过程受污染并增强鲁棒性。跨电力现货市场和金融市场的广泛实验表明,COTN在实际应用中的可行性和韧性。我们的方案在提升约17%的Informant等最先进深度学习模型方面,在传统统计方法如GARCH上可提升最高40%。这些结果凸显了COTN在应对真实世界市场的不确定性和复杂性方面的有效性,为在压力下的高度波动系统预测提供了强大的工具。

关键词

引用

@article{arxiv.2511.06273,
  title  = {COTN: A Chaotic Oscillatory Transformer Network for Complex Volatile Systems under Extreme Conditions},
  author = {Boyan Tang and Yilong Zeng and Xuanhao Ren and Peng Xiao and Yuhan Zhao and Raymond Lee and Jianghua Wu},
  journal= {arXiv preprint arXiv:2511.06273},
  year   = {2025}
}

备注

Submitted to IEEE Transactions on Neural Networks and Learning Systems