SUQL:基于大语言模型在结构化与非结构化数据上的对话式搜索
计算与语言
2024-03-14 v2 编程语言
摘要
虽然大多数对话代理基于纯文本或结构化知识,但许多知识语料库由混合来源组成。本文提出了首个支持大型知识语料库混合数据访问全部通用性的对话代理,通过我们开发的一种称为 SUQL(Structured and Unstructured Query Language,结构化与非结构化查询语言)的语言实现。具体而言,SUQL 以自由文本原语(summary 和 answer)扩展了 SQL,从而可以以形式化、简洁、精确且可解释的记号将信息检索与结构化数据访问任意组合。基于 SUQL,我们提出了首个语义解析器,即一个采用上下文学习(in-context learning)的 LLM,能够处理混合数据源。我们基于上下文学习的方法应用于 HybridQA 数据集时,在精确匹配上距 SOTA 差 8.9%,在 F1 上差 7.1%,而该 SOTA 是在 62K 数据样本上训练的。更重要的是,与以往方法不同,我们的技术适用于大型数据库和自由文本语料库。我们引入了一个由众包问题和对话组成的数据集,基于 Yelp——一个包含结构化与非结构化数据的大型真实餐厅知识库。我们表明,基于 SUQL 的少样本对话代理找到满足所有用户要求的实体的比例为 90.3%,而基于线性化的基线为 63.4%。
引用
@article{arxiv.2311.09818,
title = {SUQL: Conversational Search over Structured and Unstructured Data with Large Language Models},
author = {Shicheng Liu and Jialiang Xu and Wesley Tjangnaka and Sina J. Semnani and Chen Jie Yu and Monica S. Lam},
journal= {arXiv preprint arXiv:2311.09818},
year = {2024}
}