在分布式表示上进行 CYK 解析
计算与语言
2021-09-29 v2
摘要
句法解析是自然语言处理中的一项关键任务。该任务一直由基于符号和语法的解析器主导。神经网络凭借其分布式表示,正在挑战这些方法。在本文中,我们展示了现有的符号解析算法可以跨越边界,完全在分布式表示上构建。为此,我们引入了传统 Cocke-Younger-Kasami(CYK)算法的一个版本,称为 D-CYK,它完全定义在分布式表示上。我们的 D-CYK 使用大小与输入字符串长度无关的实数矩阵进行矩阵乘法。这些操作与传统神经网络兼容。实验表明,我们的 D-CYK 近似于原始 CYK 算法。通过展示 CYK 可以完全在分布式表示上执行,我们为定义 CYK 指导的神经网络的循环层开辟了道路。
引用
@article{arxiv.1705.08843,
title = {Parsing with CYK over Distributed Representations},
author = {Fabio Massimo Zanzotto and Giordano Cristini and Giorgio Satta},
journal= {arXiv preprint arXiv:1705.08843},
year = {2021}
}
备注
The algorithm has been greatly improved. Experiments have been redesigned