使用 Spider 数据集进行零样本和微调文本到 SQL 生成的轻量级 Transformer
计算与语言
2025-08-07 v1 信息检索
摘要
文本到 SQL 翻译使非专业用户能够使用自然语言查询关系型数据库，具有教育和商业智能等应用。本研究评估了三个轻量级 transformer 模型 - T5-Small、BART-Small 和 GPT-2 - 在 Spider 数据集上的表现，关注低资源环境。我们开发了一个模块化的、针对每个模型架构调整模式格式的管道，分别在 1000 到 5000 次迭代中对其进行训练，并使用 Logical Form Accuracy(LFAcc)、BLEU 和 Exact Match(EM) 指标在 1000 个测试样本上进行评估。微调的 T5-Small 达到最高的 LFAcc(27.8%)，超过 BART-Small(23.98%)和 GPT-2(20.1%)，突出了编码器-解码器模型在模式感知 SQL 生成中的优势。尽管受资源限制影响导致性能受限，但我们的管道的模块化支持未来的增强，例如高级模式链接或替代基础模型。本工作凸显了在资源稀缺环境中使用紧凑型 transformer 实现可访问文本到 SQL 解决方案的潜力。
引用
@article{arxiv.2508.04623,
title = {Lightweight Transformers for Zero-Shot and Fine-Tuned Text-to-SQL Generation Using Spider},
author = {Chirag Seth and Utkarsh Singh},
journal= {arXiv preprint arXiv:2508.04623},
year = {2025}
}