基于 AODE 与压缩系数的_credal_分类
机器学习
2015-03-20 v2
摘要
贝叶斯模型平均(BMA)是一种对替代模型进行平均的方法;然而,它通常过度集中于单一最可能的模型,因此仅能达到次优的分类性能。基于压缩的方法(Boulle, 2007)克服了这一问题,通过对模型的后验概率应用对数平滑来对不同模型进行平均。该方法应用于朴素贝叶斯分类器集成时表现出优异的性能。AODE 是另一种高性能的模型集成(Webb, 2005),基于一组非朴素分类器(称为 SPODE),其概率预测通过简单算术平均进行聚合。通过 BMA 而非算术平均来聚合 SPODE 会降低性能;相反,我们通过压缩系数聚合 SPODE,并表明所得分类器相较于 AODE 获得了微小但一致的提升。然而,任何贝叶斯模型集成中的一个重要问题是模型先验选择的任意性。我们通过_credal_分类范式解决这一问题,即用一组先验替代单一先验。_Credal_分类器自动识别依赖先验的实例,即当考虑不同先验时最可能类别发生变化的实例;在这些情况下,_credal_分类器通过返回一组类别而非单一类别来保持可靠性。因此,我们开发了基于 BMA 和基于压缩的 SPODE 集成的_credal_版本,用一组先验替代模型的单一先验。实验表明,两种_credal_分类器均比其确定性对应物提供更高的分类可靠性;此外,基于压缩的_credal_分类器与先前的_credal_分类器相比表现更优。
引用
@article{arxiv.1203.5716,
title = {Credal Classification based on AODE and compression coefficients},
author = {Giorgio Corani and Alessandro Antonucci},
journal= {arXiv preprint arXiv:1203.5716},
year = {2015}
}