从生成模型推导判别分类器

我们研究贝叶斯生成式与判别式分类器。给定模型分布 $p(x, y)$（其中观测为 $y$，目标为 $x$），生成式分类器首先考察 $p(x, y)$，然后利用贝叶斯规则计算 $p(x | y)$。判别式模型直接由 $p(x | y)$ 给出，并用于计算判别式分类器。然而，近期工作表明，由朴素贝叶斯（NB）或隐马尔可夫链（HMC）这两种生成模型定义的贝叶斯最大后验分类器，同样可以符合判别式分类器的定义。因此，在某些情况下将分类器划分为“生成式”与“判别式”具有一定误导性。事实上，这种区分更多关乎分类器的计算方式，而非分类器本身。我们给出一个一般性理论结果，阐明由生成模型诱导出的生成式分类器如何也能从同一模型以判别式方式计算。NB 与 HMC 作为特例被再次得到，我们将该一般结果应用于 NB 的两个原始扩展以及 HMC 的两个扩展（其中之一为原创）。最后，我们简要说明了在自然语言处理（NLP）框架下这种新型判别式分类器计算方式的益处。