面向知识库问答的少样本迁移学习：融合监督模型与上下文学习
计算与语言
2024-06-14 v3 人工智能
摘要
现有的知识库问答（KBQA）架构对标注数据需求巨大，使其部署成本高且耗时。我们提出了KBQA的少样本迁移学习问题，其中目标领域仅提供少量标注样本，但在源领域有大型标注训练数据集可用。我们提出了一种名为FuSIC-KBQA的新型KBQA架构，该架构使用多个源领域训练的检索器进行知识库检索，利用LLM重新排序，并将其作为LLM少样本上下文学习的输入以生成逻辑形式。这些逻辑形式进一步通过执行引导的反馈进行精炼。在多个不同复杂度的源-目标KBQA配对上的实验表明，FuSIC-KBQA显著优于针对该设定调整的SOTA KBQA模型。额外实验表明，当训练数据有限时，FuSIC-KBQA在领域内设定下也优于SOTA KBQA模型。
引用
@article{arxiv.2311.08894,
title = {Few-shot Transfer Learning for Knowledge Base Question Answering: Fusing Supervised Models with In-Context Learning},
author = {Mayur Patidar and Riya Sawhney and Avinash Singh and Biswajit Chatterjee and Mausam and Indrajit Bhattacharya},
journal= {arXiv preprint arXiv:2311.08894},
year = {2024}
}
备注
ACL-2024 camera-ready version