中文

先验近无知下关于分类潜变量的学习极限

机器学习 2014-07-15 v1

摘要

本文考虑 Walley 的(认识论)不确定性相干理论,其中信念通过概率分布集合表示,并重点关注对分类随机变量进行先验无知建模的问题。在此背景下,一个已知结果是先验无知状态与学习不兼容。为克服这一问题,人们提出了另一种信念状态,称为近无知。近无知与无知非常相似,它满足一些在无知状态下可被视为必要原则的条件,同时允许学习发生。本文提供了新的且实质性的证据,证明近无知也不能真正被视为在极弱信念条件下启动统计推断的出路。得出该结果的关键在于关注以潜变量为特征的场景。我们认为这种场景在实践中是最为常见的情况,并且对于分类潜变量(以及一般显变量)的情况,我们提供了一个条件:若该条件被满足,则在先验近无知下无法进行学习。结果表明,即使在最常见的统计问题中,该条件也很容易被满足。我们将这些结果视为一种强有力的证据,反对在真实统计问题中采用先验近无知条件。

关键词

引用

@article{arxiv.0904.4527,
  title  = {Limits of Learning about a Categorical Latent Variable under Prior Near-Ignorance},
  author = {Alberto Piatti and Marco Zaffalon and Fabio Trojani and Marcus Hutter},
  journal= {arXiv preprint arXiv:0904.4527},
  year   = {2014}
}

备注

27 LaTeX pages