面向序列建模的模型注意力集成学习
机器学习
2021-02-24 v1 人工智能
摘要
医疗时间序列数据集具有使其预测任务具有挑战性的独特特征。最显著的是，患者轨迹常包含其输入输出关系中的纵向变化，通常称为时间条件偏移。设计能够适应此类时变分布的序列模型仍是一个普遍问题。为此，我们提出面向序列建模的模型注意力集成学习（MAES）。MAES 是一种时间序列专家混合模型，利用基于注意力的门控机制使各专家专注于不同序列动态，并自适应地加权其预测。我们证明，在受时间偏移影响的数据集上，MAES 显著优于流行的序列模型。
引用
@article{arxiv.2102.11500,
title = {Model-Attentive Ensemble Learning for Sequence Modeling},
author = {Victor D. Bourgin and Ioana Bica and Mihaela van der Schaar},
journal= {arXiv preprint arXiv:2102.11500},
year = {2021}
}