离散能量模型中确定性估计量的渐近效率:比率匹配与伪似然
机器学习
2012-02-20 v1 机器学习
摘要
标准最大似然估计通常无法应用于离散能量模型,因为精确模型概率的计算是难解的。近期研究提出了几种专门用于克服这一难解性的新估计量,但关于其理论性质几乎一无所知。本文提出一个广义估计量,统一了许多经典和近期提出的估计量。我们利用M估计量的标准渐近理论结果,推导出广义估计量渐近协方差矩阵的通用表达式。我们将这些结果应用于研究经典伪似然与近期提出的比率匹配估计量的相对统计效率。
引用
@article{arxiv.1202.3746,
title = {Asymptotic Efficiency of Deterministic Estimators for Discrete Energy-Based Models: Ratio Matching and Pseudolikelihood},
author = {Benjamin Marlin and Nando de Freitas},
journal= {arXiv preprint arXiv:1202.3746},
year = {2012}
}