UniSAr:一种用于文本到SQL的统一结构感知自回归语言模型
计算与语言
2022-04-14 v2 人工智能
数据库
摘要
现有的文本到SQL语义解析器通常针对特定设置而设计,例如处理跨多表、多领域或多轮对话的查询,这使得它们在应用于不同设置时效果不佳。我们提出UniSAr(统一结构感知自回归语言模型,Unified Structure-Aware Autoregressive Language Model),它直接利用现成的语言模型架构并能在不同设置下持续展现高性能。具体而言,UniSAr扩展了现有的自回归语言模型,引入三种非侵入式扩展以使其具备结构感知能力:(1)添加结构标记以编码数据库模式、对话上下文及其关系;(2)约束解码以针对给定数据库模式解码出结构良好的SQL;(3)SQL补全以基于数据库模式补全SQL中潜在缺失的JOIN关系。在涵盖多领域、多表和多轮的七个知名文本到SQL数据集上,UniSAr展现出与最先进的专用文本到SQL模型高度可比或更优的性能。重要的是,我们的UniSAr是非侵入式的,因此文本到SQL领域的其他核心模型进展也可采用我们的扩展来进一步提升性能。
引用
@article{arxiv.2203.07781,
title = {UniSAr: A Unified Structure-Aware Autoregressive Language Model for Text-to-SQL},
author = {Longxu Dou and Yan Gao and Mingyang Pan and Dingzirui Wang and Wanxiang Che and Dechen Zhan and Jian-Guang Lou},
journal= {arXiv preprint arXiv:2203.07781},
year = {2022}
}
备注
Codes and checkpoints are available at https://github.com/microsoft/ContextualSP/tree/master/unified_parser_text_to_sql