记忆门控循环网络
机器学习
2021-01-01 v2 统计金融
摘要
多元序列学习的本质在于如何提取数据中的依赖关系。这类数据集,例如重症监护室的每小时医疗记录和多方频率语音时间序列,往往不仅在各个分量中表现出强烈的序列依赖(即“边际”记忆),而且在横截面依赖中也存在不可忽略的记忆(即“联合”记忆)。由于支撑数据生成过程的联合分布演化具有多元复杂性,我们采取数据驱动的方法,构建了一种新颖的循环网络架构,称为记忆门控循环网络(mGRN),其门控显式调节两类不同的记忆:边际记忆与联合记忆。通过综合模拟研究以及在一系列公开数据集上的实证实验,我们表明所提出的 mGRN 架构持续优于针对多元时间序列的最先进架构。
引用
@article{arxiv.2012.13121,
title = {Memory-Gated Recurrent Networks},
author = {Yaquan Zhang and Qi Wu and Nanbo Peng and Min Dai and Jing Zhang and Hu Wang},
journal= {arXiv preprint arXiv:2012.13121},
year = {2021}
}
备注
This paper was accepted and will be published in the Thirty-Fifth AAAI Conference on Artificial Intelligence (AAAI-21)