准贝叶斯方法与藤类 copula
机器学习
2024-06-19 v1 机器学习
摘要
最近提出的准贝叶斯(QB)方法通过递归直接构建贝叶斯预测分布,开启了贝叶斯计算的新时代,无需对贝叶斯后验分布进行昂贵的抽样计算。这一方法在单变量预测中数据效率极高,但扩展到多维度依赖于预定义的 Dirichlet 混合模型核函数的假设,该模型是隐式用于的非参数模型。本文提出了一种不同方式,通过使用Sklar定理将准贝叶斯预测扩展到高维度,通过将预测分布分解为一维预测边际分布和高维 copula。因此,我们使用高效的递归QB构造处理一维边际,并使用高度可表达的藤类 copula 来建模依赖关系。进一步,我们使用鲁棒散度(例如能量得分)调整超参数,并表明我们提出的准贝叶斯藤类(QB-Vine)是一种完全非参数的密度估计器,其解析形式且在某些情况下的数据维度独立于收敛速率。我们的实验表明,QB-Vine适用于高维分布(约64),训练所需的样本极少(约200),并在密度估计和监督任务中显著优于具有解析形式的先进方法。
引用
@article{arxiv.2406.12764,
title = {Quasi-Bayes meets Vines},
author = {David Huk and Yuanhe Zhang and Mark Steel and Ritabrata Dutta},
journal= {arXiv preprint arXiv:2406.12764},
year = {2024}
}
备注
36 pages, 2 figures