先验与后验的参数化不变解释
统计理论
2021-06-03 v2 人工智能
机器学习
机器学习
统计理论
摘要
在本文中，我们利用黎曼流形上的概率来重新思考贝叶斯推断中先验与后验的解释。主要的思维转变是从“先验分布在我们的模型参数上建立概率分布”的观念，转向“先验分布在概率分布上建立概率分布”的观念。为此，我们假设我们的概率模型是一个具有 Fisher 度量的黎曼流形。在这种思维下，任何在概率分布上的分布都应当是“内在的”，即对流形所选的特定参数化保持不变。我们通过关于伯努利分布流形上分布的简单分析来例证我们的想法。最大后验估计的主要缺点之一是它们依赖于参数化。基于此处建立的理解，我们可以定义不依赖于参数化的最大后验估计。
引用
@article{arxiv.2105.08304,
title = {Parametrization invariant interpretation of priors and posteriors},
author = {Jesus Cerquides},
journal= {arXiv preprint arXiv:2105.08304},
year = {2021}
}