对数密度梯度协方差与黎曼流形蒙特卡洛方法的自动度量张量
统计计算
2023-10-20 v2 统计方法学
机器学习
摘要
本文提出一种特别适用于非线性贝叶斯层次模型的黎曼流形蒙特卡洛度量张量。该度量张量由对称半正定对数密度梯度协方差（LGC）矩阵构建，此类矩阵亦在本文中提出并进一步探讨。LGC 通过将联合信息内容与随机变量及其参数间的依赖结构一并度量，推广了 Fisher 信息矩阵。因此，正定基于 Fisher/LGC 的度量张量不仅可如当前做法那样由观测似然构建，也可由任意复杂的非线性先验/潜变量结构构建，只要能为用于构造所述结构的每个条件分布导出 LGC。所提方法高度自动化，并可利用相关模型具有的任意稀疏性。当与近期提出的数值广义随机化哈密顿蒙特卡洛过程的黎曼流形变体结合实现时，所提方法极具竞争力，尤其对于贝叶斯层次模型相关的更具挑战性的目标分布。
引用
@article{arxiv.2211.01746,
title = {Log-density gradient covariance and automatic metric tensors for Riemann manifold Monte Carlo methods},
author = {Tore Selland Kleppe},
journal= {arXiv preprint arXiv:2211.01746},
year = {2023}
}