拥抱黑盒:迈向基于时间序列数据的基础模型因果发现
机器学习
2024-02-15 v1 人工智能
摘要
从时间序列数据进行因果发现涵盖了许多现有解决方案,包括基于深度学习技术的方法。然而,这些方法通常不采用深度学习中最常见的范例之一:端到端学习。为弥合这一差距,我们探讨了一种称为因果预训练(Causal Pretraining)的方法,这是一种旨在以监督方式学习从多变量时间序列直接映射到底层因果图的方法。我们的实证发现表明,在假设训练和测试时间序列样本共享大部分动力学条件下,可以监督方式进行因果发现。更重要的是,我们发现因果预训练的性能even if additional data do not share the same dynamics时仍可随数据量和模型规模增大而提升。进一步,我们提供了在实际数据上使用因果预训练的神经网络进行因果发现的实例。我们认为,这暗示了可能存在一种基础模型用于因果发现。
引用
@article{arxiv.2402.09305,
title = {Embracing the black box: Heading towards foundation models for causal discovery from time series data},
author = {Gideon Stein and Maha Shadaydeh and Joachim Denzler},
journal= {arXiv preprint arXiv:2402.09305},
year = {2024}
}
备注
AAAI Workshop (AI4TS) 2024