时序卷积网络对输入输出映射的通用逼近
机器学习
2019-10-29 v2 系统与控制
系统与控制
最优化与控制
机器学习
摘要
近期，由于训练与运行中的计算优势且仍取得有竞争力的性能，序列到序列建模已从循环网络架构转向卷积网络架构。对于具有有限长期时间依赖的系统，循环网络的逼近能力本质上等同于时序卷积网络（TCN）的逼近能力。我们证明 TCN 可以任意误差容限逼近一大类具有近似有限记忆的输入输出映射。此外，我们推导了深度 ReLU TCN 关于网络宽度和深度以及原始输入输出映射连续模的定量逼近速率，并将这些结果应用于具有有限维状态空间实现（即循环模型）的系统的输入输出映射。
引用
@article{arxiv.1906.09211,
title = {Universal Approximation of Input-Output Maps by Temporal Convolutional Nets},
author = {Joshua Hanson and Maxim Raginsky},
journal= {arXiv preprint arXiv:1906.09211},
year = {2019}
}
备注
final version to appear in NeurIPS 2019