MinPrompt:基于图的最小提示数据增强用于少样本问答
计算与语言
2024-05-29 v3
摘要
近期少样本问答(QA)的进展大多依赖于预训练大语言模型(LLM)的能力以及特定设置下的微调。尽管预训练阶段已赋予LLM强大的推理能力,其仍须经微调以适应特定领域方能取得最佳效果。本文提出筛选最具信息量的数据用于微调,从而在开放域QA任务上以更高效率实现可比甚至更优的准确率。我们提出MinPrompt,一种基于近似图算法与无监督问题生成的开放域QA最小数据增强框架。我们将原始文本转化为图结构以建立不同事实句间的联系,随后应用图算法识别覆盖原始文本最多信息的最小句子集合。我们基于所识别的句子子集生成QA对,并在选定句子上训练模型以得到最终模型。在多个基准数据集上的实证结果与理论分析表明,MinPrompt能够以高效率取得与基线可比或更优的结果,带来F-1分数的一致提升。
引用
@article{arxiv.2310.05007,
title = {MinPrompt: Graph-based Minimal Prompt Data Augmentation for Few-shot Question Answering},
author = {Xiusi Chen and Jyun-Yu Jiang and Wei-Cheng Chang and Cho-Jui Hsieh and Hsiang-Fu Yu and Wei Wang},
journal= {arXiv preprint arXiv:2310.05007},
year = {2024}
}
备注
ACL 2024 main conference