基于判别后验的推断

我们研究给定模型族$p(c,\x, \theta)$时的贝叶斯判别推断，该模型族假定包含了我们所有的先验信息，但已知是不正确的。这介于“标准”贝叶斯生成建模和贝叶斯回归之间，在后两者中，边缘分布$p(\x,\theta)$已知对$p(c|\x,\theta)$不提供信息。我们给出了一个公理化证明，表明判别后验对于条件推断是一致的；使用判别后验是经典贝叶斯回归中的标准做法，但我们表明，对于联合密度模型族，这在理论上也是合理的。与贝叶斯回归相比，一个实际好处是，生成建模中处理缺失值的标准方法可以扩展到判别推断中，这在数据量较小时很有用。与标准生成建模相比，如果模型族不正确，判别后验能产生更好的条件推断。如果模型族也包含真实模型，判别后验会给出与标准贝叶斯生成建模相同的结果。实际计算通过马尔可夫链蒙特卡洛方法完成。