Marginal Flow：一种灵活高效的密度估计框架
机器学习
2025-10-01 v1
摘要
当前的密度建模方法至少存在以下缺陷之一：训练成本高、推理速度慢、似然近似、模式崩溃或诸如双射映射等架构约束。我们提出了一个简单而强大的框架，可同时克服这些局限性。我们通过带有潜在参数 的参数化分布 来定义模型 。我们的想法不是直接优化潜在变量 ，而是通过从可学习分布 中采样 来将其边缘化，因此得名 Marginal Flow。为了评估学习到的密度 或从中采样，我们只需从 中抽取样本，这使得两种操作都十分高效。所提出的模型允许进行精确的密度评估，并且在训练和推理方面都比竞争模型快几个数量级。此外，Marginal Flow 是一个灵活的框架：它不对神经网络架构施加任何限制，支持在低维流形（已知或待学习）上学习分布，可以使用任何目标函数（例如前向和反向 KL 散度）进行高效训练，并且能轻松处理多模态目标。我们在各种任务上对 Marginal Flow 进行了广泛评估，包括合成数据集、基于模拟的推理、正定矩阵上的分布以及图像潜在空间中的流形学习。
引用
@article{arxiv.2509.26221,
title = {Marginal Flow: a flexible and efficient framework for density estimation},
author = {Marcello Massimo Negri and Jonathan Aellen and Manuel Jahn and AmirEhsan Khorashadizadeh and Volker Roth},
journal= {arXiv preprint arXiv:2509.26221},
year = {2025}
}