基于张量列与梯度降维的可扩展条件深度逆 Rosenblatt 传输
机器学习
2023-03-07 v3 机器学习
统计计算
统计方法学
摘要
我们提出一种新颖的离线与在线方法,以缓解统计学习中后验随机变量刻画的计算负担。在离线阶段,所提方法以张量列(tensor-train, TT)格式学习参数随机变量与可观测量随机变量的联合律。在在线阶段,所得保序条件传输可实时刻画给定新观测数据的后验随机变量。与最先进的归一化流技术相比,所提方法依赖于函数逼近,并配有完备的性能分析。函数逼近视角还使我们能进一步扩展传输映射在具有高维观测与高维参数的挑战性问题中的能力。一方面,我们提出新的启发式方法对变量重排序和/或重参数化,以增强 TT 的逼近能力。另一方面,我们将基于 TT 的传输映射与参数重排序/重参数化集成到分层复合中,以进一步提升所得传输映射的性能。我们在常微分方程(ODE)与偏微分方程(PDE)的多种统计学习任务上展示了所提方法的效率。
引用
@article{arxiv.2106.04170,
title = {Scalable conditional deep inverse Rosenblatt transports using tensor-trains and gradient-based dimension reduction},
author = {Tiangang Cui and Sergey Dolgov and Olivier Zahm},
journal= {arXiv preprint arXiv:2106.04170},
year = {2023}
}
备注
41 pages