朴素贝叶斯分类器与分类变量的独热编码
机器学习
2024-04-30 v1 机器学习
摘要
本文研究了在使用朴素贝叶斯分类器时，将一个值分类变量错误地通过独热编码编码为比特的后果。这导致了伯努利乘积（PoB）假设，而不是正确的分类朴素贝叶斯分类器。我们从数学和实验上分析了这两个分类器之间的差异。在我们使用从Dirichlet分布中抽取的概率向量的实验中，发现两个分类器在大多数情况下对最大后验类别标签一致，尽管后验概率在PoB情况下通常更大。
引用
@article{arxiv.2404.18190,
title = {Naive Bayes Classifiers and One-hot Encoding of Categorical Variables},
author = {Christopher K. I. Williams},
journal= {arXiv preprint arXiv:2404.18190},
year = {2024}
}
备注
7 pages, 3 figures