中文

MoMQ:混合专家提升跨关系型与非关系型数据库的多方言查询生成

计算与语言 2024-10-25 v1 人工智能 数据库 机器学习

摘要

将自然语言翻译为结构查询语言 (SQL) 的性能提升归因于大型语言模型 (LLM) 的进步。针对特定数据库方言(如 MySQL)定制的开源 LLM 显示出卓越的性能。然而,云服务提供商正在寻求一种统一的数据库管理服务(如 Azure 的 Cosmos DB、AWS 的 Amazon Aurora、阿里云的 Lindorm),以支持多种方言。这一需求催生了多方言查询生成的概念,对 LLM 构成了挑战。这些挑战包括不同方言之间的语法差异以及多方言数据分布不均的问题。为应对这些挑战,我们提出了 MoMQ,即一种基于混合专家的多方言查询生成框架,支持关系型和非关系型数据库。MoMQ 为每个方言设计专家组,并采用多级路由策略处理方言特定知识,减少查询生成过程中的干扰。此外,我们引入共享专家组以解决数据不平衡问题,促进来自高资源方言向低资源方言的知识迁移。我们还开发了一个高质量的多方言查询生成基准,覆盖包括 MySQL、PostgreSQL、Neo4j 的 Cypher 和 NebulaGraph 的 nGQL 在内的关系型和非关系型数据库。大量实验表明,MoMQ 在资源不平衡的情况下仍能有效且稳健地运行。

关键词

引用

@article{arxiv.2410.18406,
  title  = {MoMQ: Mixture-of-Experts Enhances Multi-Dialect Query Generation across Relational and Non-Relational Databases},
  author = {Zhisheng Lin and Yifu Liu and Zhiling Luo and Jinyang Gao and Yu Li},
  journal= {arXiv preprint arXiv:2410.18406},
  year   = {2024}
}