星形流形的注入流
机器学习
2025-01-27 v3 机器学习
摘要
正规化流（Normalizing Flows, NFs）是强大且高效的密度估计模型。在建模流形上的密度时，NFs 可推广为注入流，但雅可比行列式变得计算上不可行。当前方法要么考虑对数似然的界限，要么依赖雅可比行列式的某些近似。在 contrast，我们提出针对星形流形的注入流，证明在此类流形上可精确且高效地计算雅可比行列式，其计算成本与 NFs 相同。这一特性在变分推断场景中尤为重要，在此场景中，没有可用的样本，仅知未归一化的目标。我们展示了在星形流形上建模密度的相关性，具体体现在两个方面：其次，我们引入一种新的目标贝叶斯方法，用于惩罚似然模型，通过将惩罚的水平集解释为星形流形。其次，我们考虑概率混合模型，提出一种通用方法，用于通过定义混合权重在概率单纯形上的后验进行变分推断。
引用
@article{arxiv.2406.09116,
title = {Injective flows for star-like manifolds},
author = {Marcello Massimo Negri and Jonathan Aellen and Volker Roth},
journal= {arXiv preprint arXiv:2406.09116},
year = {2025}
}