多层感知器模型似然比的渐近律
统计理论
2010-12-01 v1 统计理论
摘要
我们考虑涉及具有一个隐藏层和高斯噪声的多层感知器（MLP）的回归模型。假设数据由真实的MLP模型生成，并通过最大化模型的似然来估计MLP的参数。当真实模型的隐藏单元数已知时，最大似然估计量（MLE）和似然比（LR）统计量的渐近分布易于计算，并收敛于分布。然而，如果隐藏单元数被高估，模型的Fisher信息矩阵是奇异的，且MLE的渐近行为未知。本文处理这种情况，并给出了LR统计量的精确渐近律。具体而言，如果MLP的参数位于某个合适的紧集中，我们证明LR统计量是由一类极限得分函数索引的高斯过程平方的上确界。
引用
@article{arxiv.1011.6039,
title = {Asymptotic law of likelihood ratio for multilayer perceptron models},
author = {Joseph Rynkiewicz},
journal= {arXiv preprint arXiv:1011.6039},
year = {2010}
}
备注
19 pages