基于流的生成模型用于流形到流形映射的学习
计算机视觉与模式识别
2021-03-02 v2
摘要
计算机视觉与机器学习中的许多测量或观测表现为非欧几里得数据。尽管近期提议(如球面 CNN)已将若干深度神经网络架构扩展至流形值数据,且常带来性能上的显著提升,但关于流形数据生成模型的文献仍相当匮乏。部分由于这一缺口,目前也没有面向流形值数据的模态迁移/转换模型,而基于生成模型的自然图像此类方法已为数众多。本文致力于弥补这一缺口,其动机源于脑成像的需求——在此过程中,我们将某些生成模型(以及用于模态迁移的生成模型)的适用范围从自然图像扩展至具有流形值测量的图像。我们的主要成果是设计了 GLOW(基于流的可逆生成模型)的双流版本,该版本可在给定一种流形值测量场时合成另一种类型流形值测量的信息。在理论方面,我们引入了三种面向流形值数据的可逆层,它们不仅功能类似于其在基于流的生成模型(如 GLOW)中的对应层,而且保留了关键优势(雅可比行列式易于计算)。在实验上,利用来自 Human Connectome Project(HCP)的大型数据集,我们展示了有前景的结果:能够从扩散张量图像(DTI)可靠且精确地重建取向分布函数(ODF)场的脑图像,后者采集速度快 但代价是角分辨率较差。
引用
@article{arxiv.2012.10013,
title = {Flow-based Generative Models for Learning Manifold to Manifold Mappings},
author = {Xingjian Zhen and Rudrasis Chakraborty and Liu Yang and Vikas Singh},
journal= {arXiv preprint arXiv:2012.10013},
year = {2021}
}
备注
This paper has been accepted by AAAI 2021. A video introduction is on YouTube: https://youtu.be/0r96U0vXsCM The official GitHub repo is: https://github.com/zhenxingjian/Dual_Manifold_GLOW