语言建模的贝叶斯语法归纳

本文描述了一种基于语料库的概率上下文无关语法归纳算法。该算法在贝叶斯框架内采用贪心启发式搜索，并使用 Inside-Outside 算法进行后处理。我们在三个语言建模任务中将该算法的性能与 n-gram 模型和 Inside-Outside 算法进行了比较。在其中两个任务中，训练数据由概率上下文无关语法生成，在这两个任务中我们的算法优于其他技术。第三个任务涉及自然发生的数据，在该任务中我们的算法不如 n-gram 模型，但远优于 Inside-Outside 算法。