混合模型递归过程的拟贝叶斯性质
统计理论
2026-02-18 v2 统计方法学
统计理论
摘要
贝叶斯方法通常是最优的,然而对快速计算(尤其是流式数据)日益增长的需求,使人们对更快但可能次优的解决方案重新产生兴趣。这些算法在多大程度上逼近贝叶斯解是一个令人关注但未常得到解答的问题。我们提出一种在预测设定下解决该问题的方法论,前提是算法可被重新解释为概率预测规则。我们具体针对非参数混合模型中用于在线学习的递归过程(常被称为Newton算法)发展了所提方法论。该算法简单且快速;然而其逼近性质尚不清楚。通过将其重新解释为预测规则,我们可证明它隐含了一个统计模型,该模型渐近地是一个贝叶斯、可交换的混合模型。在此意义上,该递归规则提供了一种拟贝叶斯解。虽然该算法仅给出点估计,我们清晰的统计表述使我们能够提供混合分布的渐近后验分布与渐近可信区间。此外,它为指导参数调优提供了见解,正如我们在模拟研究中所展示的,并为多方向的扩展铺平了道路。除混合模型外,我们的方法也可应用于其他预测算法。
引用
@article{arxiv.1902.10708,
title = {Quasi-Bayes properties of a recursive procedure for mixtures},
author = {Sandra Fortini and Sonia Petrone},
journal= {arXiv preprint arXiv:1902.10708},
year = {2026}
}