中文

通过光滑混合回归对条件密度的逼近

统计理论 2010-10-05 v1 统计理论

摘要

本文表明,在Kullback-Leibler距离下,大类的非参数条件多元密度可以通过正态回归有限混合的不同规格来逼近,其中正态均值、方差和混合概率可以依赖于条件集(协变量)中的变量。这些模型是统计学和计算机科学文献中称为“专家混合”模型的特例。灵活的规格包括仅混合概率(由多项logit建模)依赖于协变量的模型,以及在单变量情况下仅混合正态的均值灵活依赖于协变量的模型。通过协变量的灵活函数对混合正态的方差进行建模,可以弱化对可逼近密度类别的限制。所得结果可以推广到一般位置尺度密度的混合。对于不同的模型规格,还获得了收敛速率和易于解释的界限。这些逼近结果有助于证明基于这些模型的贝叶斯和最大似然密度估计量的一致性。这些结果对应用研究人员也具有有趣的意义。

关键词

引用

@article{arxiv.1010.0581,
  title  = {Approximation of conditional densities by smooth mixtures of regressions},
  author = {Andriy Norets},
  journal= {arXiv preprint arXiv:1010.0581},
  year   = {2010}
}

备注

Published in at http://dx.doi.org/10.1214/09-AOS765 the Annals of Statistics (http://www.imstat.org/aos/) by the Institute of Mathematical Statistics (http://www.imstat.org)