用于学习隐式神经表示的通用神经过程
机器学习
2023-02-22 v3 信号处理
摘要
将信号表示为由神经网络参数化的连续函数（即隐式神经表示，INRs）近年来受到越来越多的关注。神经过程（NPs）以部分观测（上下文集）为条件对函数上的分布建模，为连续函数的快速推断提供了实用方案。然而，现有的 NP 架构在对复杂信号建模时能力较弱。本文中，我们提出了一种高效的 NP 框架，称为通用神经过程（VNP），大幅提升了函数逼近能力。具体而言，我们引入了一个瓶颈编码器，产生更少且具信息量的上下文令牌，在降低高计算成本的同时提供高建模能力。在解码器侧，我们分层学习多个全局潜变量，联合建模函数的全局结构与不确定性，使模型能够捕捉复杂信号的分布。我们在涉及 1D、2D 和 3D 信号的多种任务上证明了所提 VNP 的有效性。特别地，我们的方法在不进一步微调的情况下，于学习准确针对 3D 场景的 INRs 方面展现出潜力。代码见 https://github.com/ZongyuGuo/Versatile-NP 。
引用
@article{arxiv.2301.08883,
title = {Versatile Neural Processes for Learning Implicit Neural Representations},
author = {Zongyu Guo and Cuiling Lan and Zhizheng Zhang and Yan Lu and Zhibo Chen},
journal= {arXiv preprint arXiv:2301.08883},
year = {2023}
}
备注
Camera-ready version for ICLR2023