卷积条件神经过程
机器学习
2020-06-26 v5 机器学习
摘要
我们引入卷积条件神经过程(ConvCNP),这是神经过程家族的新成员,可对数据中的平移等变性建模。平移等变性是许多学习问题(包括时间序列建模、空间数据和图像)的重要归纳偏置。该模型将数据集嵌入无限维函数空间,而非有限维向量空间。为形式化这一概念,我们将集合神经表示理论扩展至包含函数表示,并证明任何平移等变嵌入都可用卷积深度集表示。我们在若干设定下评估 ConvCNP,表明其相比现有 NP 取得了最先进的性能。我们证明,内置平移等变性可实现对具有挑战性的域外任务的零样本泛化。
引用
@article{arxiv.1910.13556,
title = {Convolutional Conditional Neural Processes},
author = {Jonathan Gordon and Wessel P. Bruinsma and Andrew Y. K. Foong and James Requeima and Yann Dubois and Richard E. Turner},
journal= {arXiv preprint arXiv:1910.13556},
year = {2020}
}
备注
Accepted at International Conference on Learning Representations 2020