基于 Donsker-Varadhan 表示的数据深度密度估计
机器学习
2021-04-15 v1 人工智能
计算机视觉与模式识别
信息论
math.IT
概率论
摘要
估计数据密度是深度学习中的挑战性问题之一。本文提出了一种简单而有效的方法，利用深度神经网络以及 KL 散度的 Donsker-Varadhan 变分下界来估计数据密度。我们证明了与数据分布和均匀分布之间 KL 散度的 Donsker-Varadhan 表示相关联的最优 critic 函数可以估计数据密度。我们还给出了基于深度神经网络的建模及其随机学习。所提方法的实验结果和可能应用表明，它与以往方法相比具有竞争力，并且在应用于各类任务方面具有很大潜力。
引用
@article{arxiv.2104.06612,
title = {Deep Data Density Estimation through Donsker-Varadhan Representation},
author = {Seonho Park and Panos M. Pardalos},
journal= {arXiv preprint arXiv:2104.06612},
year = {2021}
}