图模型中参数估计的困难性
计算复杂性
2014-09-22 v2 人工智能
信息论
math.IT
统计计算
摘要
我们考虑从均值参数学习指定无向图模型(马尔可夫随机场)的规范参数的问题。对于表示最小指数族的图模型,规范参数由均值参数唯一确定,因此该问题在原理上是可行的。本文旨在调查这一统计任务的计算可行性。我们的主要结果表明,参数估计在一般情况下是难解的:除非 RP = NP,否则没有任何算法能在变量数量的多项式时间内从均值参数学习通用成对二元图模型的规范参数。事实上,人们一直相信这一结果是正确的(参见 Wainwright 和 Jordan (2008) 的专著),但此前尚无证明。我们的证明给出了从近似硬核模型配分函数(已知是困难的)到学习近似参数的多项式时间归约。我们的归约需要证明边际多胞形边界具有固有的排斥性质,从而验证了一种不依赖其结构知识(如椭球法及其他方法所需)的多胞形优化过程。
引用
@article{arxiv.1409.3836,
title = {Hardness of parameter estimation in graphical models},
author = {Guy Bresler and David Gamarnik and Devavrat Shah},
journal= {arXiv preprint arXiv:1409.3836},
year = {2014}
}
备注
15 pages. To appear in NIPS 2014