BlendSQL:一种用于在关系代数中统一混合问答的可扩展方言
计算与语言
2024-06-12 v2
摘要
许多现有的用于混合问答任务端到端系统往往可归结为“提示并祈祷”(prompt-and-pray)范式,其中用户对实现最终结果所使用的中间推理步骤缺乏控制和洞察。此外,由于许多基于 Transformer 的大型语言模型(LLMs)存在上下文长度限制,在零样本设置下,通常不合理地期望完整的结构化和非结构化上下文能放入给定的提示中,更不用说少样本设置了。我们引入了 BlendSQL,这是 SQLite 的超集,作为协调结构化和非结构化数据推理的统一方言。对于涉及多跳推理的混合问答任务,我们将完整的分解推理路线图编码为单个可解释的 BlendSQL 查询。值得注意的是,我们展示了 BlendSQL 可扩展至海量数据集,并在使用减少 35% token 的情况下提升端到端系统的性能。我们的代码可作为包在 https://github.com/parkervg/blendsql 获取并安装。
引用
@article{arxiv.2402.17882,
title = {BlendSQL: A Scalable Dialect for Unifying Hybrid Question Answering in Relational Algebra},
author = {Parker Glenn and Parag Pravin Dakle and Liang Wang and Preethi Raghavan},
journal= {arXiv preprint arXiv:2402.17882},
year = {2024}
}
备注
For associated codebase, see https://github.com/parkervg/blendsql