中文

SmBoP:半自回归自底向上语义解析

计算与语言 2021-04-13 v2

摘要

近年来语义解析事实上的标准解码方法,是使用自顶向下深度优先遍历自回归地解码目标程序的抽象语法树。在本工作中,我们提出一种替代方法:半自回归自底向上解析器(SmBoP),其在解码步 tt 构造高度 t\leq t 的 top-KK 子树。与自顶向下自回归解析相比,我们的解析器具有若干优势。从效率角度看,自底向上解析允许并行解码某一高度的所有子树,从而带来对数级而非线性的运行时间复杂度。从建模角度看,自底向上解析器在每一步学习有意义语义子程序的表示,而非语义空洞的部分树。我们将 SmBoP 应用于 Spider——一个具有挑战性的零样本语义解析基准,并显示相较于使用自回归解码的语义解析器,SmBoP 带来解码时间 2.2 倍加速与训练时间约 5 倍加速。SmBoP 在 Spider 上取得 71.1 的 denote 准确率,确立了新的 SOTA,以及 69.5 的精确匹配,与自回归 RAT-SQL+GraPPa 的 69.6 精确匹配相当。

关键词

引用

@article{arxiv.2010.12412,
  title  = {SmBoP: Semi-autoregressive Bottom-up Semantic Parsing},
  author = {Ohad Rubin and Jonathan Berant},
  journal= {arXiv preprint arXiv:2010.12412},
  year   = {2021}
}

备注

Accepted to NAACL-HLT 2021