高维分类与数据挖掘中变量选择的Gibbs后验
统计方法学
2008-11-03 v1 机器学习
摘要
在流行的“贝叶斯变量选择”（BVS）方法中，人们使用先验和后验分布来选择进入模型的一组候选变量。这里将考虑一个全新的方向，即用源自统计力学的Gibbs后验来研究BVS。Gibbs后验由实际感兴趣的风险函数（如分类误差）构造，旨在无需对数据进行概率建模的情况下最小化风险函数。这可以改善通常贝叶斯方法的性能，后者依赖于可能被错误设定的概率模型。我们将提供条件，以在高维情形下（候选变量数“”可能远大于样本量“”）实现良好的风险性能。此外，我们开发了一个方便的马尔可夫链蒙特卡洛算法，用于实现基于Gibbs后验的BVS。
引用
@article{arxiv.0810.5655,
title = {Gibbs posterior for variable selection in high-dimensional classification and data mining},
author = {Wenxin Jiang and Martin A. Tanner},
journal= {arXiv preprint arXiv:0810.5655},
year = {2008}
}
备注
Published in at http://dx.doi.org/10.1214/07-AOS547 the Annals of Statistics (http://www.imstat.org/aos/) by the Institute of Mathematical Statistics (http://www.imstat.org)