学习代数重组以实现组合泛化
计算与语言
2021-07-15 v1 人工智能
摘要
神经序列模型在语义解析任务中表现出有限的组合泛化能力。组合泛化需要代数重组，即以递归方式动态重组结构化表达式。然而，以往多数研究主要集中于重组词法单元，这是代数重组的重要但不充分部分。本文中，我们提出 LeAR，一种端到端神经模型，用于学习组合泛化的代数重组。其核心思路是将语义解析任务建模为潜语法代数与语义代数间的同态，从而鼓励代数重组。具体而言，我们联合学习两个模块：用于生成潜句法的 Composer，以及用于指派语义操作的 Interpreter。在两个真实且全面的组合泛化基准上的实验证明了我们模型的有效性。源代码公开于 https://github.com/microsoft/ContextualSP。
引用
@article{arxiv.2107.06516,
title = {Learning Algebraic Recombination for Compositional Generalization},
author = {Chenyao Liu and Shengnan An and Zeqi Lin and Qian Liu and Bei Chen and Jian-Guang Lou and Lijie Wen and Nanning Zheng and Dongmei Zhang},
journal= {arXiv preprint arXiv:2107.06516},
year = {2021}
}
备注
ACL Findings 2021