对无监督句法分析中偏向性解析器的批判性分析
计算与语言
2019-09-23 v1 机器学习
摘要
近期一系列论文使用Shen等人（2018）提出的解析算法，基于“句法深度”的代理指标来恢复短语结构树。这些代理深度是从循环语言模型学到的表示中获得的，这些模型增强了鼓励（无监督）发现自然语言句子中潜在层级结构的机制。使用相同的解析器，我们表明，从传统LSTM语言模型导出的代理指标产生的树与先前工作中使用的专门架构效果相当。然而，我们也对该解析算法进行了详细分析，表明（1）它是不完备的——即它只能恢复可能树的一小部分——以及（2）它对右分支结构有明显的偏向性，这导致在像英语这样的右分支语言中性能虚高。我们的分析表明，使用有偏向性的解析算法进行评估可能会夸大语言模型的表面结构能力。
引用
@article{arxiv.1909.09428,
title = {A Critical Analysis of Biased Parsers in Unsupervised Parsing},
author = {Chris Dyer and Gábor Melis and Phil Blunsom},
journal= {arXiv preprint arXiv:1909.09428},
year = {2019}
}