具有上下文等价状态的聚类语言模型
cmp-lg
2008-02-03 v1 计算与语言
摘要
本文在现有聚类算法中引入了层次化上下文定义，以提高其鲁棒性。所得算法分别对上下文和事件进行聚类，用于实验语言模型所考虑的不同上下文定义方式。上下文范围涵盖标准的二元组和三元组上下文，直至词性五元组。尽管没有任何模型能直接与回退三元组模型竞争，但它们在与三元组模型插值后，困惑度最多可降低 9%。此外，修改后的算法版本相较于原始版本，性能提升高达 12%。
引用
@article{arxiv.cmp-lg/9606002,
title = {Clustered Language Models with Context-Equivalent States},
author = {J. P. Ueberla and I. R. Gransden},
journal= {arXiv preprint arXiv:cmp-lg/9606002},
year = {2008}
}
备注
3 pages, latex