共轭先验的几何视角

在贝叶斯机器学习中，共轭先验很流行，主要是由于数学上的便利性。在本文中，我们展示了选择共轭先验有更深层次的原因。具体来说，我们用 Bregman 散度的形式表述了共轭先验，并表明正是共轭先验的内在几何特性使其合适且直观。这种几何解释允许将共轭先验的超参数视为{\it 有效}样本点，从而提供了额外的直观理解。我们利用这种对共轭先验的几何理解，推导出了用于耦合半监督学习混合模型中生成和判别组件的先验的超参数和表达式。