通过贝叶斯模型合并诱导概率语法
cmp-lg
2022-02-28 v1 计算与语言
摘要
我们描述了一个从正样本语料库中诱导概率语法的框架。首先，通过添加临时规则来融合样本；随后，合并模型元素（如状态或非终端符号）以实现泛化并获得更紧凑的表示。何时以及如何合并由给定数据的贝叶斯后验概率决定，这形式化了对数据拟合程度与对简单模型（“奥卡姆的刀锋”）的默认偏好之间的权衡。该通用方案使用三种类型的概率语法：隐藏马尔可夫模型、基于类的 n 元语法和随机上下文无关语法。
引用
@article{arxiv.cmp-lg/9409010,
title = {Inducing Probabilistic Grammars by Bayesian Model Merging},
author = {Andreas Stolcke and Stephen M. Omohundro},
journal= {arXiv preprint arXiv:cmp-lg/9409010},
year = {2022}
}
备注
To appear in Grammatical Inference and Applications, Second International Colloquium on Grammatical Inference; Springer Verlag, 1994. 13 pages