线性域约束下高斯分布的积分
机器学习
2020-03-03 v2 机器学习
摘要
线性约束多元高斯密度的积分是机器学习和统计中常见的问题，出现在广义线性模型和贝叶斯优化等任务中。然而它们以难以计算而著称，且更麻烦的是，此类积分的数值可能非常小。我们提出了一种高效的黑盒算法，利用几何来估计小截断高斯体积上的积分，并从中进行采样。我们的算法使用Holmes-Diaconis-Ross（HDR）方法结合解析版椭圆切片采样（ESS）。经调整以适应线性设定后，ESS允许无拒绝采样，因为椭圆与域边界的交有闭式解。HDR的关键思想是通过使用一系列嵌套域将积分分解为更易计算的条件概率。值得注意的是，它允许直接计算积分值的对数，从而能够计算极小的质量概率。我们在高维积分和贝叶斯优化的熵搜索上展示了我们定制的HDR与ESS组合的有效性。
引用
@article{arxiv.1910.09328,
title = {Integrals over Gaussians under Linear Domain Constraints},
author = {Alexandra Gessner and Oindrila Kanjilal and Philipp Hennig},
journal= {arXiv preprint arXiv:1910.09328},
year = {2020}
}