XRICL:面向跨语言文本到 SQL 语义解析的跨语言检索增强上下文学习
计算与语言
2022-10-26 v1
摘要
使用大语言模型的上下文学习近期在文本到 SQL 翻译等语义解析任务上展现出令人惊讶的结果。使用若干问答-SQL 对示例提示 GPT-3 或 Codex 可产生优异结果,可与最先进的基于微调的模型相媲美。然而,现有工作主要聚焦于英文数据集,大语言模型能否作为其他语言具有竞争力的语义解析器尚属未知。为弥补这一差距,我们的工作关注跨语言文本到 SQL 语义解析,即基于英文模式将非英文语句翻译为 SQL 查询。我们考虑零样本迁移学习设定,假设目标语言没有任何标注示例(但英文有标注示例)。本工作引入 XRICL 框架,其学习为给定查询检索相关英文示例以构建提示。我们还包含目标语言的全局翻译示例,以促进大语言模型的翻译过程。为系统评估我们的模型,我们构建了两个新基准数据集 XSpider 和 XKaggle-dbqa,其中包含中文、越南语、波斯语和印地语问题。我们的实验表明,XRICL 有效利用大预训练语言模型优于现有基线。数据和代码公开于 https://github.com/Impavidity/XRICL。
引用
@article{arxiv.2210.13693,
title = {XRICL: Cross-lingual Retrieval-Augmented In-Context Learning for Cross-lingual Text-to-SQL Semantic Parsing},
author = {Peng Shi and Rui Zhang and He Bai and Jimmy Lin},
journal= {arXiv preprint arXiv:2210.13693},
year = {2022}
}