面向知识库问答的代码风格上下文学习
计算与语言
2024-01-08 v2 人工智能
摘要
当前基于知识的问答(KBQA)方法通常依赖复杂的训练技术与模型框架,导致在实际应用中存在诸多局限。近来,大语言模型(LLMs)中上下文学习(ICL)能力的出现为 KBQA 提供了一种简单且无训练的语义解析范式:给定少量问题及其标注的逻辑形式作为示例,LLMs 能够理解任务意图并为新问题生成逻辑形式。然而,当前强大的 LLMs 在预训练期间很少接触逻辑形式,导致格式错误率较高。为解决该问题,我们提出一种面向 KBQA 的代码风格上下文学习方法,将不熟悉的逻辑形式生成过程转化为 LLMs 更熟悉的代码生成过程。在三个主流数据集上的实验结果表明,我们的方法在少样本设定下显著缓解了逻辑形式生成中的格式错误问题,同时在 WebQSP、GrailQA 和 GraphQ 上实现了新的 SOTA。代码与补充文件发布于 https://github.com/Arthurizijar/KB-Coder。
引用
@article{arxiv.2309.04695,
title = {Code-Style In-Context Learning for Knowledge-Based Question Answering},
author = {Zhijie Nie and Richong Zhang and Zhongyuan Wang and Xudong Liu},
journal= {arXiv preprint arXiv:2309.04695},
year = {2024}
}
备注
AAAI2024 Camera Ready