将 RNN 构建为核方法：一种神经 ODE 途径
机器学习
2021-11-01 v2 机器学习
摘要
基于将循环神经网络（RNN）解释为连续时间神经微分方程，我们表明在适当条件下，RNN 的解可视为输入序列特定特征集（称为签名）的线性函数。这一联系使我们能够将 RNN 构建为合适再生核 Hilbert 空间中的核方法。由此，我们获得了一大类循环网络的泛化与稳定性理论保证。我们的结果在模拟数据集上得到说明。
引用
@article{arxiv.2106.01202,
title = {Framing RNN as a kernel method: A neural ODE approach},
author = {Adeline Fermanian and Pierre Marion and Jean-Philippe Vert and Gérard Biau},
journal= {arXiv preprint arXiv:2106.01202},
year = {2021}
}
备注
33 pages, 7 figures, accepted for an oral presentation at NeurIPS 2021