保持长期统计的动态系统真零样本推断
机器学习
2026-02-03 v3 人工智能
动力系统
混沌动力学
摘要
复杂的随时间演化现象，从气候到脑活动，都由动态系统(DS)支配。DS重构(DSR)寻求从观测数据推断这些的生成性代理模型，以再现其长期行为。现有的DSR方法需要针对任何新系统进行专门训练，缺乏来自大语言模型(LLMs)的零样本和in-context推理能力。本文引入DynaMix，一种基于多变量ALRNN的混合专家架构，用于DSR，首个能够对超出域的DS进行零样本推断的DSR模型。仅凭提供的上下文信号，而无需任何重新训练，DynaMix就能忠实地预测新DS的长期演化，其中现有的时序序列基础模型，如Chronos，无法做到——其参数数量仅为0.1%，且推理速度快了一个数量级。DynaMix在长期统计方面优于时序序列基础模型，甚至在短期预测中也常常表现更好，尽管在真实世界时序序列（如交通或天气数据）上，这些是训练和评估时序序列模型时通常使用的数据，但并非DynaMix训练语料库的一部分。我们阐述了时序序列模型在DSR问题中的一些失效模式，并指出基于DS原理构建的模型可能在推进时序序列预测领域方面具有巨大的潜力。
引用
@article{arxiv.2505.13192,
title = {True Zero-Shot Inference of Dynamical Systems Preserving Long-Term Statistics},
author = {Christoph Jürgen Hemmer and Daniel Durstewitz},
journal= {arXiv preprint arXiv:2505.13192},
year = {2026}
}