一种更优的序列概率 Good-Turing 估计器
信息论
2007-07-13 v2 math.IT
摘要
我们考虑估计从未知分布中独立同分布抽取的观测字符串的概率问题。本研究的关键特征在于，假设观测字符串的长度与底层字母表的大小处于同一数量级。在此设定下，许多字母未被观测到，经验分布倾向于高估已观测字母的概率。为解决此问题，传统的概率估计方法是使用经典的 Good-Turing 估计器。我们引入了一个自然的缩放模型，并利用该模型证明 Good-Turing 序列概率估计器是不一致的。随后，我们引入了一种新颖的序列概率估计器，该估计器在自然缩放模型下确实是一致的。
引用
@article{arxiv.0704.1455,
title = {A Better Good-Turing Estimator for Sequence Probabilities},
author = {Aaron B. Wagner and Pramod Viswanath and Sanjeev R. Kulkarni},
journal= {arXiv preprint arXiv:0704.1455},
year = {2007}
}
评论
ISIT 2007, to appear